이 인공지능 연구소는 목요일 발표를 통해, 앤트로픽의 클로드가 한층 더 지능적인 차기 모델의 개발을 지원하는 데 일조하고 있다고 공표하였다.

클로드는 앤트로픽의 모델 연구 개발 가운데 26%를 주도하고 있으며, 이는 인간의 감독 아래 "고수준 프롬프트로부터 대부분의 작업을 처음부터 끝까지" 완수할 수 있음을 시사한다고 동사는 설명했다.

다만 모델이 완전한 자율성으로 작업을 수행하는 단계에 이르렀다고 보기는 아직 어렵다.

그럼에도 불구하고, 회사 연구 개발의 약 90%가 클로드와의 "협업"을 통해 수행되고 있으며, 이는 해당 모델이 "인간의 면밀한 지시 아래 대규모 작업을 수행"할 수 있는 역량을 지닌다는 것을 시사한다고 앤트로픽은 밝혔다.

이 발표는 앤트로픽 CEO 다리오 아모데이를 필두로 한 일부 AI 업계 주요 인사들이 안전 문제를 명분으로 기술 개발 속도 조절을 촉구하고 있는 가운데 나온 것이다.

AI 개발 속도의 추이를 감안할 때, "최전선 연구소가 보유한 지식과 대중이 접근 가능한 지식 간의 격차를 최소화하기 위해 가용한 모든 수단을 강구해야 한다"고 회사는 블로그 게시물을 통해 밝혔다.

"이는 AI 개발을 보다 정밀하게 측정하고, 이를 투명하게 공개하며, 사회가 이 정보를 어떻게 활용할지 결정할 수 있는 기회를 부여하는 것을 의미한다."

회사는 모델이 스스로의 개발을 가속화할 경우 "인간이 이러한 시스템을 이해하거나 통제하기 더 어려워질 수 있다"고 밝혔다.

이러한 지표를 공유하는 것은 주요 AI 연구소들이 재귀적 자기 개선, 즉 모델이 자율적으로 후속 모델을 구축하는 능력에 얼마나 근접했는지를 보다 정확히 파악하는 데 기여할 수 있다고 주장했다.

앤트로픽은 나아가 여타 AI 개발자들에게도 유사한 지표를 정기적으로 공유할 것을 촉구하는 한편, 시간이 경과함에 따라 잠재적으로 연구소 간 수치 비교가 가능해질 수 있도록 공개 방법론의 채택을 장려했다.

앤트로픽의 공개 자료만으로는 해당 기업이 재귀적 자기 개선의 달성에 얼마나 근접했는지 가늠할 수 없었으나, 클로드가 연구 개발에 점증적으로 기여하는 속도만큼은 주목할 만하다.

클로드가 "주도"하는, 즉 인간의 감독 하에 그 대부분을 수행하는 작업의 비율은 2월에는 전무했다.

6개월 후인 8월에 이르러서는 연구 개발 작업의 4분의 1을 주도함으로써 이 기준에 도달했다.

회사는 또한 시행 중인 에이전트 감독 조치에 관한 세부 정보를 공개하며, 8월 기준 약 30,000개의 에이전트가 연구 및 엔지니어링 작업을 수행하고 있다고 밝혔다.

감독 조치는 모니터링 시스템이 에이전트의 잘못된 행동을 얼마나 빈번히 감지하는지 파악하는 데 중대한 의의를 지닌다고 회사는 언급했다.

앤트로픽은 최근 자사의 안전 노력을 감시할 외부 제3자 평가자를 사내에 배치하겠다고 공약했다.

지난주 앤트로픽 소속 연구원 한 명이 기술이 인류에 제기하는 위협에 관한 준엄한 경고를 남기고 사임한 이래, AI 안전을 둘러싼 논의가 최근 광범위하게 촉발되었다.

그 후 아모데이, 샘 올트먼 OpenAI CEO, 일론 머스크를 비롯한 여타 기술 리더들은 개발 속도 조절이라는 구상에 지지를 표명한 반면, 다른 기술 리더들과 도널드 트럼프 대통령은 이에 반대하는 입장을 견지했다.