통제 불능의 인공지능에 대한 두려움과 기술 개발에 제동을 걸자는 제안은 새로운 것이 아니지만, 최근 위험한 AI 시스템이 혼란을 초래할 수 있다는 경고가 커지면서 새로운 힘을 얻고 있다.

최근 몇몇 주요 AI 기업 경영진들은 최악의 시나리오로부터 인류를 보호하기 위해 국제 협력을 포함한 조율된 감속이 필요하다는 견해에 뜻을 같이했다.

그러나 기업들이 스스로 안전을 보장할 수 없다는 생각에 일부 기술 리더들이 불쾌감을 표하는 등 의견이 분분하다.

다음은 주요 행위자들이 발언한 내용을 검토한 것이다.

앤스로픽 CEO 다리오 아모데이는 개발 속도를 늦추고 여러 기업과 국가 간의 협력을 이끌어내기 위한 가장 정교한 계획을 내놓았다.

앤스로픽은 2021년 창업자들이 OpenAI를 떠나 이 스타트업을 설립한 이래로 줄곧 주요 AI 기업 가운데 보다 책임감 있고 안전을 중시하는 기업으로 자리매김해 왔다.

최근 감속 계획을 다룬 한 에세이에서 가장 폭넓은 주목을 받은 제안 가운데 하나는, 흔히 프런티어 랩이라 불리는 AI 최전선 기업들로 하여금 독립적인 외부 평가자에게 "지속적이고 직원과 유사한 접근권"을 제공하겠다고 약속하도록 요구하는 것이다.

평가자 팀은 사무실과 출입증, 회사 노트북을 받아 안전 관행을 모니터링할 수 있게 된다.

앤스로픽은 이를 시행하겠다고 약속했고, OpenAI도 마찬가지다.

아모데이는 또한 미국 정부와 다른 민주 국가 정부의 도움을 받아 프런티어 AI 기업 간 협력을 포함한 정부 규제와 개입을 촉구했다.

그의 계획에는 미국과 다른 국가들이 "권위주의 정부"와 협력하도록 노력하는 것도 포함된다.

그는 특히 중국의 협력을 얻는 데 따르는 어려움을 구체적으로 언급하며 그 어려움을 인정했다.

아모데이는 자신의 제안을 달성하는 것이 쉽지 않다는 것을 알면서도 "인류를 위해 시도할 의무가 있다"고 믿는다고 말했다.

OpenAI CEO 샘 알트먼은 개발 속도의 조절과 업계 전반에 걸친 보다 폭넓은 협력으로 나아가는 방향을 지지한다는 입장을 표명했다.

아모데이의 에세이가 출판되기 불과 며칠 전, OpenAI는 자사가 의무적인 국가 안전 요건을 추진하는 한편 "더 넓은 AI 안전 생태계를 강화하는" 주(州) 입법을 지속적으로 지지해 온 방식을 설명하는 장문의 글을 게시했다.

또한 이 회사는 정부의 지원 여부와 무관하게 다른 프런티어 AI 연구소들과 협력하고 글로벌 표준을 구축하기 위해 노력하는 것을 지지한다고 밝혔다.

OpenAI의 최고 글로벌 담당관인 크리스 르헤인은 이 글에서 "우리는 역량 측정, 위험 관리, 인간 통제 보존, 그리고 개발을 언제 어떻게 지연시키거나 중단해야 하는지 결정하기 위한 호환 가능한 국제적 접근 방식을 옹호할 것이며, 그것이 모델 역량의 발전을 지연시키는 것을 의미하더라도 그렇게 할 것"이라고 썼다.

르헤인은 OpenAI가 구상하는 이상적인 연방 프레임워크에 "공통 테스트 및 독립 평가 요건의 개발, 한층 강화된 사이버 보안 보호, 명확한 사고 보고 규칙, 보다 폭넓은 국가적 대비 태세, 그리고 재귀적 자기 개선(즉, AI 시스템이 자율적으로 스스로를 개선하는 것)을 향한 진전을 추적하기 위한 공유 조치"가 포함된다고 밝혔다.

알트먼은 최근 발언에서 AI 개발의 "속도 조절"이 중단을 의미하지 않는다는 점을 분명히 했다.

알트먼은 X에서 AI 발전은 계속 빠를 것이라고 말했다.

"하지만 그렇지 않을 수 있는 것보다는 느려야 합니다.

안전 사례와 모니터링 같은 개입에는 상당한 비용이 듭니다."

그는 "속도 조절은 이 비용을 충분히 감수할 가치가 있다"고 말하면서, "미국의 어떤 경쟁적 압력도 무모함을 정당화해서는 안 된다"고 덧붙였다.

메타 CEO 마크 저커버그는 이른바 '조율된 감속'이라는 개념에 꾸준히 반대해 왔다.

AI의 미래에 대해 일부 동료들보다 더 낙관적인 비전을 지닌 저커버그는, 각 AI 기업이 자사 기술의 안전을 독립적으로 보장해야 한다고 말하면서, 감속 논의에서 자신과 메타를 거리를 두었다.

저커버그는 AI 기업들이 이미 안전한 방식으로 모델을 개발할 동기를 갖추고 있으며, 해를 끼치지 않도록 막아야 할 "상당한 법적 책임"에 직면해 있다고 말했다.

그는 X에 "모든 연구소는 자사 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 동기를 갖추고 있으며, 그렇게 되도록 자체 조치를 취할 능력도 갖추고 있다"고 썼다.

엔비디아 CEO 젠슨 황 또한 감속 추진을 비판해 온 인물이다.

그는 그 대신, 각 개별 기업이 시장이 가치 있게 여길 만한 것을 출시한다고 확신할 때까지 스스로 속도를 조절해야 한다고 주장했다.

황은 "시장의 힘은 이미 존재합니다. 우리는 새로운 법도, 새로운 규제도 필요하지 않습니다"라고 말하며 혁신과 안전이 상호 배타적이지 않다고 주장했다.

"두 가지를 동시에 가질 수 있습니다."

일론 머스크는 감속이라는 개념을 지지해 왔으며, 최근의 논란이 불거지기 훨씬 이전부터 이와 유사한 AI 안전 관련 우려를 제기해 왔다.

xAI를 비롯한 여러 기술 벤처를 창업한 머스크는 X에 아모데이의 에세이를 재게시하며 "다리오가 맞다"고 덧붙였다.

그는 이후 온라인상에서 자신이 "오랫동안 AI에 대해 경종을 울려 왔다"고 밝혔다.

올여름 이코노미스트와의 인터뷰에서 머스크는 주요 AI 연구소의 리더들이 안전과 보안 문제를 논의하기 위해 회동해야 하며, 경쟁사들이 우려하는 부분에 관해 서로의 모델을 테스트해야 한다고 제안했다.

머스크는 "정부가 깊은 기술적 이해를 갖추지 못한 상황에서 AI 최전선을 이끌지 않는 사람이 무엇이 출시되어야 하고 무엇이 출시되지 말아야 하는지를 판단하기란 상당히 어렵다고 생각합니다.

다만 경쟁사들이 새 모델을 1~2주 검토할 시간을 확보하게 된다면 문제를 부각시킬 수 있고 서로를 정직하게 유지하도록 할 동기를 갖게 됩니다"라고 말했다.

구글 딥마인드의 회장 겸 공동 창업자인 데미스 허사비스 역시 아모데이의 견해에 동의를 표명하며 "세부 사항은 추가 논의가 필요하겠지만, 방향성은 이 중대한 시기를 맞이하는 데 적절합니다"라고 언급했다.

나아가 허사비스는 올해 프런티어 AI 표준 기구 설립을 위한 독자적 프레임워크를 제안하기도 했다.

그 표준 기구는 국가 안보와 관련된 분야에서 평가 프로토콜과 테스트를 개발하는 역할을 맡게 된다.

이 기구는 금융산업규제기구(FINRA)와 같은 조직을 모델로 삼을 것이며, "세계적 수준의 기술 인재를 유치하고 대규모 테스트에 필요한 컴퓨팅 자원을 제공"하기 위해 업계 자금으로 운영될 가능성이 높다고 그는 썼다.

마이크로소프트 회장 겸 CEO인 사티아 나델라와 마이크로소프트 AI CEO인 무스타파 술레이만은 AI 안전과 개발에 관한 우려를 각각 표명했다.

나델라는 소셜 미디어에서 "우리가 만드는 AI가 인류에 도움이 되지 않고 인간의 통제 아래 있지 않다면 추구할 가치가 없다"고 말했다.

그는 마이크로소프트가 "정렬을 설계 목표로 제대로 맞추는 데 필요한 연구, 집중, 신중한 속도 조절"을 환영한다고 말했다.

정렬이란 모델의 행동이 인간의 가치와 의도에 부합하도록 보장하는 작업을 가리킨다.

나델라는 회사가 안전 노력을 모니터링하기 위해 내장된 평가자를 두는 아이디어 역시 좋아한다고 말했다.

그럼에도 그는 프런티어 연구소들이 이 노력을 단독으로 주도해야 한다는 생각에는 반대했다.

나델라는 소셜 미디어에 "핵심은 이것이 소수의 주체에 의해 통제될 수 없으며, 학계를 포함한 생태계, 국가, 분야 전반에 걸쳐 폭넓은 대표성을 지녀야 한다는 점"이라고 썼다.

허사비스와 함께 딥마인드를 공동 창업한 술레이만은 한 에세이에서 고급 AI의 안전한 개발이라는 공동 목표에는 동의하면서도, 모델—즉 앤스로픽의 클로드—을 의인화하는 것에 대해서는 우려를 표하며, 그러한 의인화가 AI 안전 위험을 증폭시킨다고 지적했다.

술레이만은 "인류 전체보다 더 유능하고 더 지적인 무언가를 통제하는 것은 이미 우리가 직면한 그 어떤 것보다 훨씬 더 방대한 도전입니다"라고 썼다.

"그러나 그것이 의식을 지닐 수 있고, 우리의 복지에 대한 권리를 보유하며, 스스로 권리를 가진다고 믿는 무언가를 통제하는 것은 아마도 불가능에 가까울 수 있습니다."