이 인공지능 연구소는 목요일 발표를 통해 앤트로픽의 클로드가 한층 더 지능적인 차기 모델의 개발을 지원하고 있다고 밝혔다.

클로드는 앤트로픽의 모델 연구 개발 중 26%를 주도하고 있으며, 이는 인간의 감독 아래 "고수준 프롬프트로부터 대부분의 작업을 처음부터 끝까지" 완료할 수 있음을 의미한다고 회사는 설명했다.

다만 모델이 완전한 자율성으로 작업하는 단계에 도달한 것은 아니다.

그럼에도 불구하고 회사의 연구 개발 가운데 약 90%가 클로드와의 "협업"을 통해 이루어지고 있으며, 이는 해당 모델이 "인간의 면밀한 지시 아래 대규모 작업을 수행"할 수 있는 역량을 지니고 있음을 시사한다고 앤트로픽은 밝혔다.

이 발표는 앤트로픽 CEO 다리오 아모데이를 중심으로 한 일부 AI 업계 주요 인사들이 안전 문제를 이유로 기술 개발 속도 조절을 촉구하는 가운데 나왔다.

AI 개발 속도를 고려할 때, 회사는 블로그 게시물에서 "최전선 연구소가 아는 것과 대중이 아는 것 사이의 격차를 최소화하기 위해 가능한 모든 노력을 기울여야 한다"고 밝혔다.

또한 "이는 AI 개발을 더 정확하게 측정하고, 이를 공개적으로 보고하며, 사회가 이 정보를 어떻게 활용할지 결정할 기회를 제공하는 것을 의미한다"고 덧붙였다.

회사는 모델이 스스로의 개발을 가속화할 경우 "인간이 이러한 시스템을 이해하거나 통제하기 더 어려워질 수 있다"고 밝혔다.

이러한 지표를 공유하면 주요 AI 연구소가 재귀적 자기 개선, 즉 모델이 자율적으로 후속 모델을 구축하는 능력에 얼마나 근접했는지 더 잘 이해할 수 있다고 주장했다.

앤트로픽은 또한 다른 AI 개발자들에게 유사한 지표를 정기적으로 공유할 것을 촉구했으며, 시간이 흐르면서 잠재적으로 연구소 간 수치 비교가 가능해지도록 공개 방법론 사용을 장려했다.

앤트로픽의 공개만으로는 회사가 재귀적 자기 개선 달성에 얼마나 근접했는지 판별하기 어려웠으나, 클로드가 연구 개발에 점차 기여하는 속도만큼은 주목할 만하다.

클로드가 "주도"하는, 즉 인간 감독 하에 대부분의 작업을 수행하는 비율은 2월에는 전무했다.

6개월 후인 8월에는 연구 개발 작업의 4분의 1을 주도함으로써 이 기준에 도달했다.

회사는 또한 시행 중인 에이전트 감독 조치에 관한 세부 정보를 공개하며, 8월 기준 약 30,000개의 에이전트가 연구 및 엔지니어링 작업을 수행하고 있다고 밝혔다.

회사 측은 해당 감독 조치가 모니터링 시스템이 에이전트의 잘못된 행동을 얼마나 자주 감지하는지 파악하는 데 중요하다고 언급했다.

앤트로픽은 최근 자사의 안전 노력을 모니터링할 외부 제3자 평가자를 사내에 배치하겠다고 약속한 바 있다.

지난주 한 앤트로픽 연구원이 기술이 인류에 제기하는 위협에 관한 심각한 경고를 남기고 사임한 것을 계기로, AI 안전에 관한 논의가 최근 광범위하게 촉발되었다.

이후 아모데이, 샘 올트먼 OpenAI CEO, 일론 머스크를 비롯한 여러 기술 리더들은 개발 속도 조절이라는 구상을 지지한 반면, 또 다른 기술 리더들과 도널드 트럼프 대통령은 이에 반대하는 입장을 견지했다.