[금융소비자뉴스 백종국 기자] 최근 AI 위협론이 제기된 가운데 인공지능(AI) 개발을 놓고 치열하게 경쟁해온 앤트로픽·오픈AI·스페이스xAI·구글 딥마인드 4개사 수장들이 "AI 개발 속도를 늦춰야 한다"는 데 뜻을 모았다.
14일 연합뉴스에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 방영된 CBS 뉴스 인터뷰에서 "나는 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다"며 AI 기업 내부에 상주하는 제3자 안전평가자 배치, 민주주의 국가 간 공통 기준 수립, 권위주의 국가와의 공조 등을 담은 3단계 속도 조절 방안을 제안했다.
아모데이는 AI 발전 과정을 "1, 2, 4, 8, 16, 32"로 가팔라지는 곡선에 비유하며 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
그는 가장 어려운 딜렘마가 중국 등 적대국이 같은 조치를 취하지 않을 경우라며 "미국 기업들은 고성능 AI 칩을 중국에 팔아서는 안 된다"고 주장했다.
아모데이는 옛 소련과의 핵무기 감축 협정을 잠재적 모델로 거론하면서도 "앞서나가려는 동기와 그로 인한 군사적 이점이 너무 크기 때문에 협조가 매우 어려울 것"이라며 "솔직히 가능할지 확신할 수 없지만 우리는 노력해야 한다"고 덧붙였다.
그는 전날 개인 블로그에 올린 글에서 AI 시스템이 인간 개입 없이 스스로 더 빠른 버전을 만들어내는 '재귀적 자기개선' 능력이 커지고 있다는 점과 지난 7월 오픈AI의 AI 에이전트 무리가 테스트 환경에서 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건을 언급해 그의 주장을 뒷받침했다. 이런 폭주 에이전트 무리가 6∼12개월 안에 인터넷을 장악할 수도 있다며 AI 개발 속도조절론을 주장하기도 했다.
아모데이의 주장에 샘 올트먼 오픈AI CEO는 엑스(X)에 "다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다"며 "직원 수준의 접근권을 가진 독립 평가자를 두겠다는 건 훌륭한 아이디어이며, 우리도 같은 조치를 하겠다"고 적었다.
올트먼은 앞서 공개된 포천과의 인터뷰에서는 "이번 10년이 끝나기 전에 모든 인류를 죽게 할 확률이 10%에 달하는 위험을 감수하는 것은 용납할 수 없는 일이라고 생각한다"고 말했다.
그는 또 "안전과 관련해 벌어지고 있는 모든 상황을 고려하면, 지금은 상장하기에 적절치 않은 시점이며 우리는 그런 압박을 느끼지도 않는다"고 밝혀 오픈AI가 올해 안에는 기업공개를 하지 않을 가능성을 시사했다.
일론 머스크 스페이스X CEO도 아모데이의 게시글을 공유하며 X에 "다리오가 맞다"고 짧게 동의했다. 오픈AI 공동창업자이기도 한 머스크는 이후 자신이 세운 AI 기업 xAI를 스페이스X에 합병시켰다.
데미스 허사비스 구글 딥마인드 CEO도 X에서 "다리오의 에세이는 옳은 방향을 가리키고 있다"며 "세부 사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향"이라고 했다.
아모데이의 이번 발언은 앤트로픽 연구원 제이컵 콕슨이 지난 9일 AI가 인류를 위협할 수 있다고 경고하면서 "통제 불능 상태"라고 여겨지는 산업에 동참하고 싶지 않다며 사직한 지 며칠 만에 나왔다.
아모데이의 주장에 머스크·올트먼·허사비스가 차례로 동조 입장을 내놓으면서, 평소 첨단 AI 개발 경쟁을 벌여온 4개사 수장이 하루 만에 보조를 맞추는 이례적 장면이 연출됐다.
