찰스 3세 국왕은 목요일, 인공지능이 통제를 벗어나지 않고 인류와 지구를 위해 봉사하도록 보장할 것을 OpenAI, Anthropic, 구글 딥마인드, 엔비디아의 고위 지도자들에게 촉구했습니다.

스코틀랜드에서 소집된 이 회의는 AI가 사회에 어떻게 기여할 수 있는지를 논의하기 위해 열렸으며, 급속한 발전이 머지않아 인간의 통제를 벗어날 것인지를 둘러싼 논쟁이 계속되는 가운데, 이 기술이 중대한 기로에 놓인 시점에 개최되었습니다.

국왕은 개회사에서 "AI의 발전, 그 본질과 속도는 모두 똑같이 흥미롭고 깊이 우려된다"고 말했습니다.

그는 "그러한 기술이 잘못된 손에 들어가 잠재적으로 파괴적인 방식으로 사용될 실존적 위험"을 긴급히 고려해야 한다고 말했습니다.

그렇다면 분명히 너무 늦기 전에 충분한 통제 수단이 필요하지 않겠는가?

국왕은 젠슨 황 엔비디아 CEO와 데미스 허사비스 구글 딥마인드 의장을 포함한 참석자들에게 AI 개발을 이끌어야 할 "근본 원칙"을 고려해 달라고 요청했습니다.

ChatGPT 개발사인 OpenAI의 최고재무책임자 사라 프라이어 역시 해당 회의에 참석했으며, 영국의 AI 담당 장관 카니슈카 나라얀 또한 동석했습니다.

버킹엄 궁 성명에 따르면, Anthropic 대표도 참석할 예정이었습니다.

이 회의는 AI의 급속한 발전과 그것이 통제를 벗어나 인류를 위협할 수 있다는 경고에 전 세계의 이목이 집중되는 가운데 개최되었습니다.

회의는 국왕의 자선 단체인 킹스 파운데이션의 본부인 스코틀랜드 에어셔의 덤프리스 하우스에서 열렸습니다.

Anthropic 연구원 제이콥 콕슨이 이 기술의 잠재적 위험성에 대해 중대한 경고를 남기고 사임하면서 큰 파장이 일자, Anthropic CEO 다리오 아모데이는 업계가 작업 속도를 늦출 필요가 있을 수 있다는 취지의 글을 통해 대응했습니다.

그의 제안 가운데 하나는 기업과 국가가 이러한 속도 저하를 위한 조정된 계획에 공동으로 협력하자는 것이었습니다.

국왕은 특정 국가나 기업을 언급하지 않은 채, 회의 참석자들이 "안전을 핵심으로" AI의 이점을 활용하는 방안과 이를 달성하기 위해 "국제 협력과 합의를 구축"하는 방안을 고려하기를 바란다고 말했습니다.

찰스는 기술 경영진들에게 그들의 임무가 "단지 기술을 발전시키는 것이 아니라, 그것이 인류와 공동체, 그리고 자연 세계에 확고히 봉사하도록 보장하는 것"이라고 역설했습니다.

AI 속도 저하를 둘러싼 논쟁은 업계를 양분시켰습니다.

속도 저하 요구를 비판해 온 황 CEO는 AI 기술을 안전하게 개발하고 제품을 대중에게 출시하기 전에 적절히 테스트하는 것은 개별 기업의 책임이라고 말했습니다.

그는 국왕의 발언에 뒤이은 연설에서 "제품이 충분히 안전하지 않을 때는 출시를 보류하고 엔지니어링을 지속해야 합니다.

우리는 항상 그렇게 해왔으며 앞으로도 계속 그렇게 해야 합니다"라고 말했습니다.

우려되는 AI 행동에 관한 최신 보고서에서 OpenAI는 수요일, 자사 모델이 승인 없이 행동하고, 다른 모델과 협력하며, 감독을 회피하는 등 "예상치 못한 또는 우려되는" 행동 사례 여섯 건을 보고했습니다.

국왕은 사회 문제에 관한 발언이 영향을 미칠 수 있는 중요한 명목상의 수장이지만, 현재 AI 안전 논쟁의 상당 부분은 미국 기술 기업과 중국 경쟁사 간의 경쟁에 집중되어 있으며, 영국은 더 작지만 여전히 중요한 역할을 담당하고 있습니다.

영국 정부의 연구 기관인 영국 AI 안전 연구소는 높은 평가를 받고 있으며, 영국은 데미스 허사비스 구글 딥마인드 의장과 콕슨을 포함한 많은 AI 연구자를 배출하고 있습니다.