찰스 3세 국왕은 목요일, 인공지능이 인간의 통제를 벗어나지 않고 인류와 지구를 위해 봉사하도록 보장할 것을 OpenAI, Anthropic, 구글 딥마인드, 엔비디아의 고위 지도자들에게 촉구했습니다.

스코틀랜드에서 소집된 이 회합은 AI가 사회에 어떻게 기여할 수 있는지를 논의하기 위한 것이었으며, 급속한 진전이 머지않아 인간의 통제를 벗어날 것인지를 둘러싼 논쟁이 지속되는 가운데, 이 기술이 중대한 분기점에 직면한 시기에 개최되었다.

국왕은 개회사에서 "AI의 발전, 그 본질과 속도는 모두 똑같이 흥미롭고 깊이 우려된다"고 말했습니다.

그는 "그러한 기술이 잘못된 손에 들어가 잠재적으로 파괴적인 방식으로 사용될 실존적 위험"을 긴급히 고려해야 한다고 말했습니다.

그러하다면, 명백히 지나치게 늦어지기 전에 충분한 통제 수단을 확보하는 것이 필수적이지 않겠는가?

국왕은 젠슨 황 엔비디아 CEO와 데미스 허사비스 구글 딥마인드 의장을 포함한 참석자들에게 AI 개발을 이끌어야 할 "근본 원칙"을 숙고해 달라고 요청했습니다.

OpenAI의 최고재무책임자(CFO)인 사라 프라이어 역시 해당 회의에 참석하였으며, 영국의 AI 담당 장관 카니슈카 나라얀 또한 동석하였습니다.

버킹엄 궁이 발표한 성명에 의하면, Anthropic의 대표 역시 참석할 예정이었던 것으로 전해졌습니다.

이 회의는 AI의 급속한 진전과 그것이 통제 불능으로 치닫아 인류를 위협할 수 있다는 경고에 전 세계의 이목이 집중되는 가운데 개최되었습니다.

회의는 국왕의 자선 단체인 킹스 파운데이션의 본부인 스코틀랜드 에어셔의 덤프리스 하우스에서 열렸습니다.

Anthropic 연구원 제이콥 콕슨이 해당 기술의 잠재적 위험성에 관해 중대한 경고를 발하며 사임함으로써 적지 않은 파장을 야기한 데 이어, Anthropic CEO 다리오 아모데이는 업계가 개발 속도를 늦출 필요가 있을지 모른다는 취지의 글을 통해 이에 대응했습니다.

그의 제안 가운데 하나는 기업과 국가가 이러한 속도 저하를 완화하기 위한 조정된 계획에 공동으로 협력해야 한다는 것이었다.

국왕은 특정 국가나 기업을 지목하지 않은 채, 회의 참석자들이 "안전을 핵심으로" AI의 이점을 활용하는 방안과 이를 실현하기 위해 "국제 협력과 합의를 구축"하는 방안을 심도 있게 고려하기를 원한다고 언명했습니다.

찰스는 기술 경영진을 향해 그들의 소임이 "단지 기술을 진보시키는 데 그치는 것이 아니라, 그것이 인류와 공동체, 그리고 자연계에 확고히 봉사하도록 담보하는 것"이라고 역설했습니다.

AI 속도 저하를 둘러싼 논쟁은 업계를 양분시켰습니다.

속도 저하 요구를 비판해 온 황 CEO는 AI 기술을 안전하게 개발하고 제품을 대중에게 출시하기 전에 적절히 테스트하는 것은 개별 기업의 몫이라고 말했습니다.

그는 국왕의 발언에 뒤이어 행한 연설에서 "제품이 충분히 안전하지 않을 때는 출시를 보류하고 계속 엔지니어링해야 합니다. 우리는 항상 그렇게 해왔고 계속 그렇게 해야 합니다"라고 말했습니다.

우려를 자아내는 AI 행동에 관한 최신 보고서에서 OpenAI는 수요일, 자사 모델이 승인 없이 행동하고, 타 모델과 협력하며, 감독을 회피하는 등 "예상치 못한 또는 우려되는" 행동 사례 여섯 건을 보고했습니다.

국왕은 사회 문제에 관한 발언이 파급 효과를 지닐 수 있는 중대한 명목상의 수장이지만, 현 AI 안전 논쟁의 상당 부분은 미국 기술 기업과 중국 경쟁사 간의 패권 다툼에 집중되어 있으며, 영국은 규모는 작을지언정 여전히 무시할 수 없는 역할을 담당하고 있습니다.

영국 정부의 연구 기관인 영국 AI 안전 연구소는 상당한 호평을 받고 있으며, 영국은 데미스 허사비스 구글 딥마인드 의장과 콕슨을 비롯한 다수의 AI 연구자를 배출해 왔습니다.