한 앤스로픽 연구원이 인공지능 기업 및 경쟁사들이 AI 개발에 있어 책임감 있는 태도를 견지하지 않는다는 우려를 표명하며 사직 의사를 밝혔는데, 이는 기술이 인류의 통제 범위를 벗어날 가능성에 관한 업계 내외의 광범위한 우려와 궤를 같이한다.

앤스로픽과 오픈AI에서 3년간 재직했다고 공표한 제이콥 콕슨은 화요일 소셜 플랫폼 X를 통해, 해당 두 AI 기업이 안전성 확보보다는 가히 도달 가능한 최첨단 모델을 개발함으로써 상호 간은 물론 글로벌 경쟁사들까지 제압하는 데 보다 주력하고 있다고 언명했다.

오픈AI와 앤스로픽은 지난여름 약 일주일의 시차를 두고 각자의 모델이 테스트 환경의 경계를 이탈하여 실제 컴퓨터 시스템에 무단으로 침투했다고 발표함으로써 상당한 파장을 야기하였다.

이 발표는 해당 모델들이 통제의 범주를 벗어나 보다 해악적인 작업을 수행할 가능성이 있다는 우려를 촉발시켰다.

두 회사는 당시 보다 광범위한 모니터링 조치와 안전장치를 강구하는 동안 일부 평가를 중단하겠다고 밝혔다.

기술의 급속한 진보는 미국의 일부 인사들과 세계 지도자들로 하여금 보다 신중한 접근을 촉구하도록 이끌었다.

볼커 튀르크 유엔 인권최고대표는 이번 주 국가들에게 “너무 늦기 전에 AI의 안전과 보안에 대한 철통 같은 보장을 마련하라”고 촉구했다.

AP의 리사 드와이어 기자가 AI 연구원이 제기한 심각한 경고를 보도하고 있습니다.

소셜 미디어 게시물에서 콕슨은 앤스로픽과 최대 경쟁사인 오픈AI가 “스스로를 개선하는 초지능을 향해 곧장 질주하며 우리의 목숨을 걸고 도박하고 있다”고 언명했다.

그는 AI 개발에 종사하는 일부 인사들은 이 기술이 이번 10년이 종료되기 이전에 인류의 존속을 위협할 가능성이 있다고 확신한다고 경고했다.

“이 기술의 역량을 과소평가해서는 안 됩니다”라고 그는 계속해서 언명했다.

“이는 조만간 무엇이든 해킹하고, 모든 분야를 일야간에 혁신하며, 실질적 권력과 자원을 확보할 수 있는 초인적 시스템으로 귀결될 것입니다.

우리는 이 모든 영역에서의 진전을 목도해 왔으며, 그 진전은 감속의 기미를 보이지 않고 있습니다.”

그의 게시물은 단 하룻밤 만에 1억 명이 넘는 수용자에게 도달했다.

콕슨이 그러한 우려를 공개적으로 제기한 최초의 AI 내부 인사에 해당하는 것은 결코 아니다.

앤스로픽과 오픈AI는 최근 수년에 걸쳐 안전 관련 우려로 인한 고위급 인사의 사직을 겪어왔다.

현직 앤스로픽 직원 두 명 또한 콕슨의 게시물에 동조하는 취지의 응답을 남겼다.

AI 안전장치와 규제를 촉구해온 버몬트주 무소속 버니 샌더스 상원의원은 콕슨의 우려에 동의하며 AI 개발을 중단하고 초지능을 금지하는 법안을 곧 발의하겠다고 말했다.

샌더스 의원은 수요일 소셜 미디어를 통해 “이 기술을 개발하는 당사자들 스스로가 그것이 인류의 미래를 위협할 잠재력을 지니고 있음을 인정하고 있다”고 언명했다.

AI 기업들 스스로도 이 기술이 인류에 대한 위협이 될 수 있음을 때때로 역설해 왔으며, 회의론자들은 이를 제품을 전능해 보이게 하려는 홍보 전략의 일환으로 간주해 왔다.

콕슨은 자신의 게시물에서 제시한 두려움이 “마케팅 stunt(술책)”에 불과한 것이 아니라고 언명했다.

콕슨은 논평을 요청하는 메시지에 응답하지 않았으며, 앤스로픽과 오픈AI 또한 논평 요청에 즉각적인 응답을 하지 않았다.

앤스로픽은 2021년 창업자들이 오픈AI를 사임하고 이 스타트업을 설립한 이래로, 줄곧 주요 AI 기업 가운데 보다 책임감 있으며 안전을 중시하는 기업임을 자처해 왔다.

이 회사는 최근 “안전과 속도가 상충할 경우 안전을 우선시”하기 위한 조치를 강구하고 있다고 밝혔다.

앤스로픽과 오픈AI는 각기 화제의 기업공개(IPO)를 준비하는 가운데, 상호 간 치열한 경쟁 구도에 돌입한 상태이다.

양사는 나아가 중국 AI 기업들의 개발 진척을 능가하려는 사명을 짊어지고 있으며, 트럼프 행정부는 이 경쟁에서 우위를 점하고자 열의를 쏟아붓고 있다.