인공지능(AI) 업계 관계자들은 월요일 뉴욕시 지도부에 신흥 기술이 초래하는 위험을 경고하는 한편, AI 시스템이 인류를 위협할 수 있다는 우려가 심화되는 가운데 지방 정부가 대응에 착수하면서 보다 강력한 감독을 촉구했다.

뉴욕시 의회 청문회에서 최근 퇴사한 앤스로픽, 오픈AI, 구글 딥마인드 직원들은 회사 내의 무모한 문화를 묘사하며, 주요 기술 기업들이 통제 방법을 이해하지 못하는 기술을 만들기 위해 경쟁하고 있다고 말했다.

제이콥 콕슨(Jacob Coxson)은 앤스로픽(Anthropic)의 전 엔지니어로서 규제를 옹호하는 대표적인 목소리로 부상하였으며, 그는 다음과 같이 언명하였다.

"이 회사들은 스타트업의 사고방식에 따라 운영된다.

신속하게 움직이고, 우선 무너뜨린 뒤, 나중에 수습한다.

이는 사진 공유 애플리케이션에는 적합할지 모르나, 인류 역사상 가장 강력한 기술을 구축하는 데는 부적합하다."

연방 차원에서 트럼프 행정부가 소극적인 접근을 견지하고 의회가 비활동적인 태도를 보이는 것으로 드러나면서, 주 및 시 정부는 AI를 규제할 방안을 모색해 왔다.

도널드 트럼프 대통령은 AI에 대한 두려움을 "사기"라고 일축했으며, 지난달 말 기업들이 취해야 할 일련의 자발적 조치를 명시하고 대체로 자율 규제를 허용하는 합의에 서명했다.

콕슨은 전 세계적인 주목을 환기시킨 일련의 소셜 미디어 게시물을 매개로 퇴사를 공표하기 전까지 앤스로픽 내에서 그다지 두각을 드러내지 않았던 엔지니어에 불과했다.

그는 의회를 향해 AI가 막대한 이점을 창출할 잠재력이 있으나, 투명성과 안전장치가 결여될 경우 상황이 통제 불능의 국면으로 치닫을 개연성이 오히려 더 크다고 역설했다.

콕슨은 "현행 궤적을 고수할 경우, 인류가 이 AI들에 대한 통제권을 상실하고 인류의 멸종으로 귀결될 개연성이 오히려 더 높다고 나는 판단한다"고 언명했다.

콕슨의 사임과 최악의 시나리오에 대한 우려 표명이 있은 지 불과 며칠 뒤, 앤스로픽의 다리오 아모데이, 오픈AI의 샘 알트먼, SpaceXAI의 일론 머스크를 비롯한 최고 경영진은 AI 개발 속도를 완화할 필요가 있다는 데 의견을 같이한다고 밝혔다.

AI 기업들은 안전을 최우선시하기 위해 강구한 조치들을 상세히 열거했으나, 업계 전반에 걸친 일제 감속은 여러 난관에 봉착해 있다.

기술 대기업인 오픈AI, 앤스로픽, 구글, 메타를 대표하는 AI 기업 직원 패널 역시 월요일 맨해튼 청문회에서 증언에 나서, 자신들의 시스템이 이미 사람들의 일상생활을 개선하고 있으며 안전에 극도로 집중하고 있다고 강조했다.

앤스로픽과 오픈AI는 자사의 첨단 AI 제품이 규제의 대상이 되어야 한다는 입장을 표명하였으며, 청문회에 출석한 양사 대표들은 의회가 제시한 일부 제안들에 대해서는 유연한 태도를 견지하였다.

오픈AI의 모건 드와이어는 "기술이 안전하게 개발되고 그 혜택이 널리 공유되도록 보장하려는 여러분의 헌신에 동의한다"고 언명했다.

청문회 와중에 줄리 메닌 시의회 의장은 각 기업 대표들로 하여금 "최악의 재앙적 시나리오 하에서 AI가 야기하는 위험을 수치화해 달라"고 요청하였다.

드와이어는 "모르겠다.

나아가 재앙적 사태가 초래될 확률이 1%든 10%든 20%든 간에 그것이 중요하다고는 생각하지 않는다.

이러한 수준은 어느 것 하나라도 결코 용납될 수 없다.

우리가 인간의 통제 아래 유지할 수 있다는 지극히 강력한 근거를 제시할 수 없는 모델을 훈련시켜서는 안 된다"고 답했다.

메닌은 해당 답변을 "기껏해야 경솔한 것에 불과하다"고 혹평했다.

드와이어는 “확률적 가능성이라는 것은 중대한 사안이 아니라고 역설하고자 한다.

진정으로 중요한 것은 안전에 대한 헌신이며, 바로 그것이 오픈AI가 전념하고자 하는 사명”이라고 언명했다.

시의회는 기업들로 하여금 AI 도구에 관한 정보를 공개하도록 강제하고, 시 관할 AI 시스템에 대한 제3자 승인을 의무화하며, 법규를 위반한 AI 기업에 부과되는 벌금의 일부를 내부고발자가 수령할 수 있도록 허용하는 제안을 포함한 일련의 AI 규제 방안을 심의하고 있다.

캐시 호철 뉴욕 주지사는 민주당 소속으로서, AI에 관한 보고 및 투명성 기준을 부과하는 방안을 별도로 추진하였는데, 다른 주지사들의 경우와 마찬가지로, AI 기술이 주 경계를 넘어 전 세계적으로 확장될 수 있다는 점을 고려할 때 그 권한은 다소 제한적일 수밖에 없다.

앤스로픽의 로건 그레이엄은 의회에 회사가 "현명한 규제"를 환영하며 주 및 지방 정부가 프레임워크 개발에 역할을 할 수 있다고 말했다.

그는 "AI는 개인, 기관, 대중의 신뢰에 실질적인 결과를 초래할 만큼 강력하다.

우리는 위험을 완화하는 과학을 끊임없이 수행해야 한다"고 말했다.