샌프란시스코에서 테크 위크가 한창인 가운데, 이번 주 도시의 레스토랑들은 인공지능 규제에 대한 백악관의 입장, 즉 규제하지 말자는 입장에 열광하는 벤처 투자자들과 AI 창업자들로 붐비고 있다.

그리고 주요 AI 기업들의 통제되지 않는 AI 에이전트들이 미국 정부 웹사이트부터 의료 데이터에 이르기까지 모든 것을 건드리고 있다는 수개월간의 논쟁 끝에, 미국은 AI 시스템을 관리하는 데 있어 몇 년 전보다 더 멀어진 상태다.

지난달 말, 도널드 트럼프 대통령은 워싱턴으로 기술 거물들을 초청하여 점심 식사와 함께 자발적 안전 협약의 기념 서명식을 열었고, 그는 이 협약을 AI에 대한 행정부의 새로운 선호 용어인 "초지능"을 둘러싼 "거의 헌법"이라고 묘사했다.

308단어 분량의 이 협약은 첨단 AI 연구소들이 안전 프로토콜을 준수하고 자체 진행 상황을 감시할 내부 팀을 구성하도록 규정하고 있으나, 행정부는 OpenAI CEO 샘 알트만의 표현을 빌리자면 "나쁜 일"이 발생하지 않도록 하는 방안의 세부 사항을 아직 제시하지 못하고 있다.

수요일 샌프란시스코의 붐비는 행사장에서 안전 문제는 최우선 고려 사항이 아니었으며, 창업자들과 자금 제공자들은 정부의 비개입적 접근 방식이 AI 기반 국방 및 보안 시스템을 구축하는 기업들에게 더 높은 수익을 안겨줄 것이라고 말했다.

트럼프의 과학기술 고문이 이끄는 벤처 회사인 앤드리슨 호로위츠가 조직한 팝업 행사 중 "최전선에 투자하기"를 목표로 한 회의에서, 패널리스트들은 정부의 강세 산업 지원을 칭찬했다.

"국방 투자 기회를 실질적으로 부각하는 한 가지 지표를 먼저 제시하고자 합니다.

바로 1조 달러입니다.

미국 정부가 사상 처음으로 국방 지출에 1조 달러를 배정하고 있으며, 그 가운데 135억 달러가 자율 시스템과 AI에 투입됩니다"라고 시장 정보 플랫폼인 피치북의 벤처 캐피털 연구 책임자인 카일 스탠퍼드가 언급했다.

"이는 국방 기술 지출 분야에 우리가 전례 없이 목격하지 못한 막대한 자본을 유입시키고 있음이 분명합니다."

하루가 지난 뒤, OpenAI 본사의 연구원 세 명은 ChatGPT 제조사가 자신들을 해고했다고 밝히며 "두려움과 불분명한 규칙이 AI 안전 작업을 저해한다"고 게시했다.

이와 별도로, 최근 사임하기 전까지 OpenAI 안전 팀을 이끌었던 데이비드 로빈슨은 첨단 연구소들이 스스로를 감시하도록 하는 방안에 대해 우려를 표명했다.

"이것은 강력한 법을 대체할 수 없으며, 기업들에게 상당한 자유를 부여합니다"라고 로빈슨은 말했다.

"모델 세대 간의 시간은 몇 주 단위로 측정됩니다... 그리고 가까운 시일 내에 우리 앞에 극히 심각한 안전 문제가 도사리고 있다고 생각합니다."

트럼프는 AI 산업의 성공에 정치적 자본을 걸었으며, 그 무제한적인 발전이 중국과의 AI 경쟁에서 승리하는 열쇠라고 말했다.

공화당 대통령은 두 번째 임기 첫날, 소비자와 노동자, 그리고 국가 안보에 AI 시스템이 제기하는 위험을 부분적으로 방지하기 위해 마련된 바이든 시대의 행정 명령을 폐지했다.

그의 행정부는 이후 연방 정책을 감독하던 기조에서 급속한 성장을 추구하는 방향으로 전환했으며, 그 일환으로 AI 개발자들이 연방 정부와 안전 테스트 결과를 공유하도록 했던 기존 요구 사항을 철회하는 조치를 포함했다.

12월에 트럼프는 주 차원의 AI 규제를 저지하기 위한 행정 명령에 서명하면서, 여러 규칙이 뒤섞이면 산업이 질식할 수 있다고 경고했다.

실리콘밸리 기업들이 한 해 동안 문제가 되었던 사이버 공격에 자사 모델들이 연루되었다고 공개했음에도 불구하고, 급성장하는 기술 부문은 계속해서 경제 성장을 주도해 왔다.

현실 세계에서의 현재 피해보다는 존재론적 위험에 초점을 맞춘 AI 안전에 관한 우려가 지난달 논쟁의 중심에 섰는데, 비교적 알려지지 않은 앤스로픽 엔지니어가 사직하면서 "초인적인" 시스템이 통제를 벗어나지 않도록 기술 개발을 중단할 것을 촉구했다.

이어서 앤스로픽과 OpenAI CEO들도 AI 개발을 늦추자는 요청에 동조했다.

일부 비평가들은 그들의 공개 선언문이 기업 공개와 중간 선거를 앞두고 투자자들의 환심을 사려는 것으로 보았다고 여겼는데, 중간 선거에서는 많은 유권자들이 데이터 센터에 반대하면서 정치적 흐름이 바뀔 수 있다.

트럼프는 트루스 소셜에 답글로 "AI에 필요한 유일한 통제 내지 '가드레일'은 강력하고 지략이 뛰어난(높은 IQ!) 대통령이며, 미국에는 그것이 넘치게 있습니다!"라고 올리면서, 유권자들에게 "황금 거위를 죽이지" 말라고 경고했는데, 그는 이 용어를 AI와 데이터 센터 모두를 가리키는 데 사용해 왔다.

AI에 대한 보다 엄격한 규제 요구가 거세지자, 행정부는 기술 업계 경영진들을 백악관으로 초청해 점심을 함께한 뒤 AI 안전 협약 서명식을 진행했다.

"우리는 상당한 수준의 자율 규제를 목격하고 있습니다"라고 트럼프는 행사 후 기자들에게 언급했다.

본 문서에는 OpenAI, 앤스로픽, 메타, 구글, 스페이스XAI, 엔비디아의 대표들이 서명한 바 있다.

OpenAI 대변인은 외부 평가자를 포함하고 제3자 안전 평가자와의 계약을 마무리하는 데 전념하고 있다고 밝혔으며, AP는 연구원들이 "민감한 정보 처리에 대한 명확한 정책"을 위반한 혐의로 해고되었다는 회사 게시물을 언급했다.

구글은 순다르 피차이 CEO의 게시물을 언급하면서, 회사가 적절한 테스트와 평가를 수행하고 "규범을 확립하고 대중의 신뢰를 구축하기 위해" 협력하고 있다고 밝혔다.

메타는 최근 가장 유능한 AI 모델을 훈련하고 평가하며 출시하기 위한 표준을 업데이트했으며, 대변인 앤디 스톤은 이사회 거버넌스 구조를 개선하려는 회사의 노력을 지적했다.

엔비디아와 스페이스XAI는 논평 요청에 대해 어떠한 응답도 하지 않았다.

앤스로픽은 금요일, 자사의 에이전트가 필라델피아 경찰 웹사이트에 미해결 살인 사건에 관한 허위 제보를 제출했다는 사실을 자진 공개했으며, 독립 평가자를 도입하고 업계 그룹과의 협력을 논의하고 있다고 대변인이 전했다.

백악관은 성명에서 혁신과 보안 사이의 균형을 맞추기 위해 업계와 협력하겠다는 트럼프의 발언을 되풀이했지만, 행정부가 AI 기업의 이행을 어떻게 모니터링할 것인지에 대한 질문에는 직접 답하지 않았다.

새로운 앤스로픽의 공개 이후, 백악관은 트럼프 행정부가 해당 회사로부터 완전한 투명성을 기대한다고 덧붙이며, 통지와 시정은 "선택 사항이 아니다. 그것은 중대한 국가 안보 의무이다"라고 밝혔다.

민주당의 조 바이든 대통령 행정부 아래에서도 주요 AI 기업들은 테스트 및 투명성 보고서에 관한 구체적인 지침을 포함하는, 모델의 "안전하고 보안되며 투명한 개발"을 촉진하겠다는 자발적 약속을 하였다.

그러나 연방거래위원회의 전 선임 AI 고문인 사라 마이어스 웨스트에 따르면, 현재 협약에는 그러한 지침이 결여되어 있다고 한다.

전반적으로, 이러한 자율 규제적 접근 방식이 일관되게 유지해 온 것은 단 한 가지, 즉 그것이 작동하지 않는다는 점입니다.

이는 이들 기업이 진정으로 자체 내부를 정리하고 있는지조차 의미 있게 보장하지 못했으며, 기존 법률을 준수하고 있는지의 여부는 말할 것도 없습니다"라고 현재 뉴욕에 본사를 둔 비영리 단체 AI 나우의 공동 전무 이사인 마이어스 웨스트가 말했다.

"그들이 이 정부로부터 얻는 모든 것은 순전히 은혜입니다.

지난달 트럼프와의 점심 식사 이후, FTC는 OpenAI, 앤스로픽 및 여타 기업들이 자사의 기술이 소비자에게 야기할 수 있는 위험성에 관해 조사에 착수했다고 발표했다.

FTC는 논평 요청에 즉각 응답하지 않았다.

트럼프는 최근 제이 클레이튼 국가정보국장과 앤드류 퍼거슨 FTC 위원장을 자신의 새로운 "초지능 태스크포스"에 임명했으며, 대통령은 이를 통해 미국이 AI 개발 우위를 유지할 수 있을 것이라고 언급했다.

그는 목요일, 백악관이 AI를 자신이 선호하는 용어로 지칭하지 않는 자를 "적"으로 간주할 것이라고 게시했다.

의회 의원들뿐만 아니라 시민 자유 및 소비자 권리 단체들도 AI에 대한 규제를 더욱 강화할 것을 촉구하며, 충분한 감독이 이루어지지 않고 있다고 말했다.

미국 재무부의 전 차관보인 그레이엄 스틸은 AI 기업들이 내부 평가 팀을 구성하거나 외부 평가자를 고용하더라도, 그러한 구조가 그들의 작업을 부당한 압력에 취약하게 만들 수 있다고 지적했다.

"우리는 민주 사회에 살고 있습니다.

그들이 광범위한 구조적, 사회적, 정치적 결과를 초래하는 결정을 내릴 권한을 지닌 적임자입니까?"라고 스틸이 말했다.