오픈AI CEO 샘 알트만은 화요일 행사에서 '놀랍도록 유능하고 항상 켜져 있는' 인공지능 에이전트를 소개했는데, 이는 회사가 안전 우려로 인해 더 진보된 모델의 출시를 중단한 바로 다음 날이었다.

회사의 연례 개발자 컨퍼런스에서 알트만은 오픈AI의 신규 에이전트인 '닷(Dots)'을 비롯한 여러 제품을 발표하고 업데이트를 공개했다.

사용자를 대신해 진행 중인 작업을 주도적으로 완수하도록 설계된 이 에이전트는, 지난주 메타의 자체 컨퍼런스 이후 인기가 급증한 메타의 개인 에이전트 뮤즈(Muse)와 경쟁하는 위치에 있다.

알트만은 닷 에이전트가 "우리가 어릴 때 영화에서 봤던 멋진 버전에서 영감을 받은, 항상 당신을 지켜주는 AI 도우미와 같을 것"이라고 말했다.

월요일 오픈AI는 연구진이 제기한 우려를 이유로 다른 모델의 출시를 보류한다고 발표했다.

이는 안전 조치가 기술 발전 속도를 따라잡을 수 있도록 그 속도를 늦추라는 업계 전반의 광범위한 요구에 부응한 결정이다.

알트만은 기조연설에서 보류된 모델에 관한 우려를 언급하는 것을 피했으나, 질의응답 세션에서는 회사가 AI 에이전트의 안전, 보안 및 모니터링에 더 많은 투자를 하고 있다고 말했다.

그는 AI 붐을 산업혁명이라기보다는 오히려 르네상스 시대로 간주해야 한다고 주장했다.

알트만은 "AI의 가장 이상적인 버전은 사람들을 점점 더 가속화되는 거대한 기계의 톱니바퀴로 전락시키는 것이 결코 아니다.

우리가 자동화할 수 없고, 또한 자동화해서는 안 되는 삶의 영역들이 존재한다"라고 언급했다.

"AI는 사람들에게 자신의 삶에 대한 통제권을 더욱 부여하고, 창조하고 학습하고 발견하며 지식을 확장할 수 있는 더 많은 도구를 제공하는 방향으로 나아가야 한다."

회사는 또한 모델 GPT-6 Sol의 업그레이드 버전인 GPT-6.1 Sol의 출시와 '울트라패스트(Ultrafast)'라는 프리미엄 속도 등급을 포함한 여러 출시와 업데이트를 발표했다.

오픈AI의 발표는 오픈AI를 포함한 6개 주요 AI 기업의 지도자들이 화요일 도널드 트럼프 대통령과 개발을 '자율 규제'하기 위한 자발적 협약에 서명하기 직전에 나왔다.

협약에 따르면, 기업들은 '강력한 내부 통제'를 시행하고, 통제가 작동하는지 평가할 '독립적인 외부 감사인'과 협력하며, 각 기업 이사회 내에 위원회를 설치해 내부 및 외부 감사인의 보고서를 평가한다.

실리콘밸리의 많은 사람들이 정부가 기술에 대한 안전장치를 마련하도록 도와야 한다고 촉구했지만, 트럼프는 AI에 대한 더 큰 정부 감독이라는 아이디어에 반대해 왔다.

알트만은 참석하지 않았으나, 오픈AI 사장 겸 공동 창립자인 그렉 브록만은 앤스로픽의 다리오 아모데이, 아마존 CEO 제프 베조스, 엔비디아의 젠슨 황, 테슬라와 스페이스X의 일론 머스크, 마이크로소프트 CEO 사티아 나델라와 함께 백악관에 있었다.