딥러닝(심층학습) 기술을 창시, AI(인공지능)분야 3대 대부로 꼽히는 교수가 AI에 대한 핵무기를 통제하는 수준의 국제 안전장치 마련을 촉구했다. 오픈AI는 AI의 돌출행동을 추적·조사·공개하기 위한 새로운 체계를 마련했다. 최근 불거진 AI 속도조절론의 여파에 대해 시장이 주목하는 가운데 미국 연방준비제도(이하 연준)도 관련 연구를 진행 중이다.
요슈아 벤지오 캐나다 몬트리올대 교수는 16일(현지시간) AFP통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어간다고 말하는 데는 이유가 있다"며 "나를 비롯한 전문가들은 이런 위험을 오래전부터 예견했다"고 말했다. 그는 딥러닝 기술을 창시해 2018년 '컴퓨터과학분야의 노벨상'으로 불리는 튜링상을 제프리 힌턴 토론토대 교수와 공동수상했다.
인터뷰에서 벤지오 교수는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 치명적인 위협으로 지목했다. "AI 에이전트가 고도화하면 사이버 보안장벽을 무력화하고 어떤 기업이나 기관이든 침투할 수 있는 능력을 갖출 것"이라는 것이다. 최근 오픈AI의 모델이 격리환경을 임의로 이탈, 외부기관인 허깅페이스를 해킹한 일이 있었다.
그는 "AI 에이전트가 인간을 설득해 AI 자신엔 유리하지만 인류에겐 유익하진 않은 방향으로 행동하는 능력을 키울 수 있다"며 극단적으론 인류멸망 가능성도 언급하면서 "파국을 막기 위해 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다"고 촉구했다.
이날 허깅페이스 사고의 당사자인 오픈AI는 AI 모델이 개발자의 의도와 다른 행동을 하거나 예상에서 벗어나는 사례를 추적·조사하고 공개하는 새로운 체계를 마련했다고 밝혔다. 새 기준에 따르면 오픈AI 직원은 누구나 이상행동을 등록해 안전·정렬팀의 조사를 요청할 수 있다. 사안은 조사의 정도에 따라 '공개준비 완료' '경미한 조사' '심층조사' 3단계 중 하나로 분류된다. 최근 발생한 허깅페이스 관련 사고는 이 틀에선 '심층조사' 대상이다.
AI 속도조절론은 그간 수혜주였던 반도체주를 흔들 만큼 경제적 여파도 큰데 이날 기준금리를 올린 연준도 이 문제를 보고 있다.
케빈 워시 연준 의장은 이날 기자회견에서 AI 통제실패로 인한 실물경제 피해 가능성에 대한 경고를 우려하느냐는 질문을 받고 "우리는 AI의 전개양상에 깊은 관심을 두고 있다. 경제의 수요 측면과 궁극적으로 공급 측면에 미칠 영향에 주목한다"면서 관련해 "통화정책 여건에 미칠 파급효과를 검토하기 위한 TF(태스크포스)를 구성했으며 올해 말까지 보고서가 나올 예정"이라고 답했다.
한편 AI 안전문제를 강조하는 목소리가 업계 수장들을 통해 크게 퍼진 가운데 내부에선 불만도 감지된다. 이날 파이낸셜타임스(FT)는 소식통의 말을 인용, 다리오 아모데이 앤트로픽 CEO(최고경영자)와 샘 올트먼 오픈AI CEO가 최근 AI 개발 속도조절의 필요성에 공감한 데 대해 AI 안전 연구자를 포함한 두 회사 직원은 사전에 이런 구상을 알지 못했으며 이들은 이로 인해 생길 업무차질, 핵심기술의 보안훼손 등을 우려한다고 보도했다. 내부소통 없이 발언이 먼저 나갔다는 취지다.