샌프란시스코에서 테크 위크가 절정에 달한 가운데, 이번 주 도시의 레스토랑들은 인공지능 규제에 관한 백악관의 입장, 즉 규제를 지양하자는 입장에 열광하는 벤처 투자자들과 AI 창업자들로 붐비고 있다.

더불어, 주요 AI 기업들의 무제약적 AI 에이전트들이 미국 정부 웹사이트로부터 의료 데이터에 이르기까지 모든 영역을 침범하고 있다는 수개월에 걸친 논쟁의 종착점에서, 미국은 AI 시스템을 관리하는 데 있어 수년 전보다 오히려 더 후퇴한 상태에 놓여 있다.

지난달 말, 도널드 트럼프 대통령은 워싱턴으로 기술 거물들을 소집하여 점심 식사와 더불어 자발적 안전 협약에 대한 기념 서명식을 거행하였으며, 그는 동 협약을 AI에 관해 행정부가 새롭게 선호하는 용어인 "초지능"을 둘러싼 "거의 헌법"에 준하는 것으로 규정했다.

308단어로 구성된 본 협약은 첨단 AI 연구소들로 하여금 안전 프로토콜을 준수하고 자체 진행 상황을 감시할 내부 팀을 편성할 것을 규정하고 있으나, 행정부는 OpenAI CEO 샘 알트만의 표현을 빌리자면 "나쁜 일"이 초래되지 않도록 하는 방안에 관한 세부 사항을 아직까지 제시하지 못한 상태이다.

수요일 샌프란시스코의 인파로 붐비던 행사장에서 안전 문제는 최우선 고려 사항으로 자리하지 못했으며, 창업자들과 자금 제공자들은 정부의 비개입적 접근 방식이 AI 기반 국방 및 보안 시스템을 구축하는 기업들에게 더 높은 수익성을 보장할 것이라고 언명했다.

앤드리슨 호로위츠—트럼프의 과학기술 고문이 이끄는 벤처 기업—가 주최한 팝업 행사의 일환으로, "최전선에 투자하기"를 표방한 한 회의에서 패널리스트들은 정부의 강세 산업 지원을 칭송했다.

"국방 투자 기회의 중대성을 실감케 하는 하나의 수치로 논의를 시작하고자 합니다.

바로 1조 달러입니다.

미국 정부가 사상 처음으로 국방 지출에 1조 달러를 배정하고 있으며, 그 가운데 135억 달러가 자율 시스템과 AI에 투입됩니다"라고 시장 정보 플랫폼 피치북의 벤처 캐피털 연구 책임자인 카일 스탠퍼드가 언명했다.

"이는 명백히 국방 기술 지출에 전례 없는 막대한 자본을 유입시키고 있습니다."

하루가 지난 후, OpenAI 본사의 연구원 세 명은 ChatGPT 개발사가 자신들을 해고했다고 밝히며 "두려움과 불분명한 규칙이 AI 안전 작업을 저해한다"라고 게시했다.

이와 별개로, 최근 사임하기 직전까지 OpenAI 안전 팀을 이끌었던 데이비드 로빈슨은 첨단 연구소들로 하여금 스스로를 감시하도록 하는 방안에 대해 우려를 표명했다고 전했다.

"이것은 강력한 법을 대체할 수 없으며, 기업들에게 상당한 자유를 부여합니다"라고 로빈슨은 언명했다.

"모델 세대 간의 시간은 몇 주 단위로 측정됩니다... 그리고 가까운 시일 내에 우리 앞에 극히 심각한 안전 문제가 도사리고 있다고 생각합니다."

트럼프는 AI 산업의 성공에 정치적 자본을 걸었으며, 그 무제한적인 발전이 중국과의 AI 경쟁에서 승리하는 열쇠라고 역설했다.

공화당 대통령은 두 번째 임기 첫날, 소비자와 노동자, 그리고 국가 안보에 AI 시스템이 제기하는 위험을 부분적으로 방지하기 위해 바이든 시대의 행정 명령을 폐지했다.

그의 행정부는 그 이후 연방 정책의 궤적을 감독 체제에서 급속한 성장으로 전환시켰으며, 그 일환으로 AI 개발자들로 하여금 안전 테스트 결과를 연방 정부와 공유하도록 했던 기존의 요구 사항을 철회하였다.

12월, 트럼프는 주 차원의 AI 규제를 저지하기 위한 행정 명령에 서명하면서, 여러 규칙이 뒤섞이게 되면 산업이 질식할 수 있다고 경고했다.

실리콘밸리 기업들이 한 해 동안 문제가 된 사이버 공격에 자사 모델들이 연루되었다고 공개했음에도 불구하고, 급성장하는 기술 부문은 지속적으로 경제 성장을 견인해 왔다.

현실 세계의 현행 피해보다는 존재론적 위험에 천착하는 AI 안전 담론에 대한 우려는 지난달 논쟁의 진원지에 섰는데, 비교적 무명의 앤스로픽 엔지니어가 사직서를 내며 "초인적인" 시스템이 통제 불능으로 치닫지 않도록 기술 개발을 중단할 것을 촉구한 것이다.

이어서 앤스로픽과 OpenAI CEO들 역시 AI 개발 속도 조절 요청에 가세했다.

일부 비평가들의 시각에서 이들의 공개 성명은 기업 공개와 중간 선거를 목전에 둔 투자자 달래기에 불과해 보였는데, 해당 중간 선거에서는 데이터 센터에 반대하는 유권자들이 다수를 이루며 정치적 판세가 뒤바뀔 가능성이 농후했다.

"AI에 요구되는 유일한 통제 내지는 '가드레일'이란, 강력하고 명석한(높은 IQ!) 대통령이며, 미국에는 그것이 차고 넘친다!"라고 트럼프는 트루스 소셜에 답글로 게시하며, 유권자들에게 "황금 거위를 죽이지" 말라고 경고했는데, 그는 이 용어를 AI와 데이터 센터 양자를 지칭하는 데 활용해 왔다.

AI에 대한 보다 강력한 규제를 요구하는 목소리가 증대되자, 행정부는 기술 업계 경영진들을 백악관으로 소집하여 오찬을 함께한 뒤 AI 안전 협약 서명식을 거행하였다.

"우리는 지극히 광범위한 자율 규제를 목도하고 있습니다"라고 트럼프는 행사 후 기자들에게 언명했다.

본 문서에는 OpenAI, 앤스로픽, 메타, 구글, 스페이스XAI, 엔비디아의 대표이사들이 서명하였다.

OpenAI는 외부 평가자를 포함하고 제3자 안전 평가자와의 계약을 체결하는 데 전념하고 있다고 대변인이 밝혔으며, AP는 연구원들이 "민감한 정보 처리에 대한 명확한 정책"을 위반한 혐의로 해고되었다는 회사 게시물을 언급했다.

구글은 순다르 피차이 CEO의 게시물을 인용하며, 자사가 적절한 테스트와 평가를 수행하는 한편 "규범을 확립하고 대중의 신뢰를 구축하기 위해" 협력하고 있다고 천명했다.

메타는 최근 자사의 가장 유능한 AI 모델을 훈련·평가·출시하기 위한 표준을 개정하였으며, 대변인 앤디 스톤은 이사회 거버넌스 구조를 개선하고자 하는 회사의 노력을 지적하였다.

엔비디아와 스페이스XAI는 논평 요청에 응답하지 아니하였다.

앤스로픽은 금요일, 자사의 에이전트가 필라델피아 경찰 웹사이트에 미해결 살인 사건과 관련한 허위 제보를 제출했다는 사실을 자발적으로 공개했으며, 독립적 평가자를 도입하고 업계 그룹과의 협력 방안을 논의 중이라고 대변인이 밝혔다.

성명에서 백악관은 혁신과 보안 간의 균형을 도모하기 위해 업계와 협력하겠다는 트럼프의 발언을 되풀이했으나, 행정부가 AI 기업들의 이행 상황을 어떻게 감독할 계획인지에 관한 질문에는 직접적으로 답변하지 않았다.

새로운 앤스로픽의 공개에 뒤이어, 백악관은 트럼프 행정부가 해당 기업에 완전한 투명성을 요구한다고 부연하며, 통지와 시정은 "선택 사항이 아니다. 그것은 중대한 국가 안보 의무이다"라고 언명했다.

민주당의 조 바이든 대통령 행정부 아래에서조차, 주요 AI 기업들은 테스트 및 투명성 보고서에 관한 구체적인 지침을 포함하는, 모델의 "안전하고 보안되며 투명한 개발"을 촉진하겠다는 자발적 약속을 천명하였다.

연방거래위원회의 전 선임 AI 고문인 사라 마이어스 웨스트에 따르면, 현행 협약에는 그러한 지침이 결여되어 있다고 한다.

전반적으로, 이러한 자율 규제적 접근 방식이 일관되게 견지해 온 단 하나의 명제가 존재하는바, 그것은 바로 기능하지 않는다는 것이다.

동 접근 방식은 해당 기업들이 진정으로 자체 내부를 정비하고 있는지조차 유의미하게 담보하지 못하였으며, 기존 법률에 대한 준수를 보장하는 문제에 이르러서는 논할 필요조차 없다고 현재 뉴욕에 본사를 둔 비영리 단체 AI 나우의 공동 전무 이사인 마이어스 웨스트가 언명하였다.

"그들이 이 정부로부터 얻는 일체의 것은 모두 은혜일 뿐이다."

지난달 트럼프와의 점심 식사 이후, FTC는 OpenAI, 앤스로픽 및 여타 기업들이 자사의 기술이 소비자에게 야기할 수 있는 위험성에 관하여 조사에 착수했다고 발표했다.

FTC는 논평 요청에 즉각 응답하지 않았다.

트럼프는 최근 국가정보국장 제이 클레이튼과 FTC 위원장 앤드류 퍼거슨을 신설 "초지능 태스크포스"에 임명하였으며, 대통령은 이를 통해 미국의 AI 개발 우위가 유지될 것이라고 언명하였다.

그는 목요일, 백악관이 AI를 자신이 선호하는 용어로 지칭하지 않는 자를 "적"으로 간주할 것이라고 게시하였다.

국회의원들뿐만 아니라 시민 자유 및 소비자 권리 단체들 역시 AI에 대한 규제 강화를 촉구하며, 감독이 충분히 이루어지지 않고 있다고 지적했다.

미국 재무부 전 차관보인 그레이엄 스틸에 따르면, AI 기업들이 내부 평가 팀을 구성하든 외부 평가자를 고용하든, 그러한 구조적 배열은 그들의 작업을 부당한 압력에 취약하게 노출시킬 수 있다고 한다.

"우리는 민주 사회에 살고 있습니다.

그들이 광범위한 구조적, 사회적, 정치적 결과를 초래하는 결정을 내릴 권력을 가진 적임자입니까?"라고 스틸이 말했다.