Anthropic周四在一份公告中表示，其旗下Claude正协助公司开发该模型更智能的下一个版本。

Claude目前主导着Anthropic约26%的模型研发工作。

该公司表示，这意味着在人类监督下，它能够根据一个高层级提示“端到端”完成大部分给定任务。

不过，该模型尚未完全自主运作。

然而，该公司约90%的研发工作是在与Claude的“协作”下完成的，Anthropic表示，这意味着该模型能够在人类的密切指导下承担“大量工作”。

这一公告发布之际，人工智能领域的一些领军人物——主要由Anthropic首席执行官达里奥·阿莫代伊牵头——正以安全担忧为由，呼吁放缓该技术的发展。

在公司领导人考虑为AI发展设定节奏之际，该公司在一篇博客文章中表示：“我们应尽一切可能缩小前沿实验室所知与公众所知之间的差距。

这意味着更好地衡量AI的发展、公开报告相关情况，并让社会有机会决定如何使用这些信息。”

该公司表示，模型加速自身发展可能会使“人类更难理解或控制这些系统”。

它主张，分享这些指标可以帮助人们更好地了解领先AI实验室距离实现递归自我改进还有多近——递归自我改进即模型自主构建其后继版本的能力。

Anthropic还敦促其他AI开发者定期分享类似指标，并鼓励采用公开的方法论，从而使这些数字能够随时间推移、并有可能在不同实验室之间进行比较。

从Anthropic的披露中，尚不清楚该公司认为自己距离实现递归自我改进有多近，但Claude在研发中贡献日益增大的速度值得注意。

Claude“主导”，即在人类监督下大体完成的工作占比在2月份为零。

六个月后，它主导了四分之一的研发工作，并在8月份达到了这一基准。

该公司亦披露了其现行智能体监督机制的诸多细节，并指出截至8月，已有约3万个智能体投身于研究与工程领域。

该公司表示，监督措施对于研判监测系统发现智能体不当行为的频率而言，具有至关重要的意义。

Anthropic近期承诺将设立外部第三方评估人员，这些人员将被派驻至公司内部，以监督安全方面的工作。

Anthropic的一名研究员于上周辞职，并就这项技术对人类构成的威胁发出严厉警告，从而在很大程度上引发了近期围绕AI安全的诸多讨论。

此后，阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克及其他科技领袖均对放缓发展速度的构想表示支持，但另一些科技领袖以及总统唐纳德·特朗普则对此提出反对。