科技周在旧金山如火如荼地进行，本周这座城市挤满了风险投资家和AI创始人，他们对白宫在监管人工智能方面的立场——即不监管——欢欣鼓舞。

经过数月辩论——争论的焦点在于领先AI公司不受约束的AI代理干预从美国政府网站到医疗数据等一切事务——这个国家如今在治理AI系统方面比几年前更加遥远。

上月末，唐纳德·特朗普总统将科技巨头们召集到华盛顿参加午餐会，并举行了一项自愿安全协议的仪式性签署。

他称该协议“几乎是一部宪法”，其核心围绕“超级智能”——这是本届政府对AI的新偏爱术语。

这份308字的协议规定，先进AI实验室应遵循安全协议并设立内部团队来监控自身进展，但政府尚未提供细节说明如何——用OpenAI首席执行官萨姆·奥尔特曼的话说——防止“坏事”发生。

周三，在旧金山一处拥挤的活动空间里，安全挑战并非人们最关心的问题。

创始人和资助者表示，政府的放手态度将为构建人工智能驱动的国防和安全系统的公司带来更高利润。

在一场旨在“投资前沿”的会议上，小组成员对政府给予该行业的看涨支持表示赞赏。

这是安德森·霍洛维茨组织的快闪活动之一。

这家风险投资公司的负责人是特朗普的科学与技术顾问。

“我想从一个我认为真正凸显国防投资机遇的数字开始，那就是1万亿美元。

美国政府首次将1万亿美元用于国防开支，其中135亿美元将投入自主系统和AI，”市场情报平台PitchBook的风险投资研究总监凯尔·斯坦福说。

“这显然为国防科技支出带来了大量资本，比我们以往见过的都多。”

一天后，OpenAI总部的三名研究人员表示，这家ChatGPT制造商解雇了他们，并称“恐惧和不明确的规则阻碍了AI安全工作”。

此外，OpenAI安全团队负责人大卫·罗宾逊直到最近才辞职，他表示担心让先进实验室自我监管。

“这不能替代硬性法律，而且它确实给了公司很多自由，”罗宾逊说。

“模型代际之间的时间以周计……我认为我们在近期面临一些非常严峻的安全挑战。”

特朗普将其政治资本押注于AI行业的成功，称其无拘无束的发展是赢得对华AI竞赛的关键。

在第二个任期的第一天，这位共和党总统废除了拜登时代的一项行政命令，该命令部分旨在防范AI系统对消费者、工人和国家安全构成的风险。

此后，其政府将联邦政策的重心从监管转向快速增长，包括取消此前要求AI开发者与联邦政府分享安全测试结果的规定。

12月，特朗普签署了一项行政命令，旨在阻止州级AI法规，称拼凑的规则可能扼杀该行业。

尽管硅谷公司全年都披露其模型参与令人不安的网络攻击，这个新兴科技行业仍继续推动经济增长。

对AI安全的担忧主要集中在生存风险上，而非当前现实世界的危害，这在上个月成为了辩论的中心，当时一位相对不知名的Anthropic工程师辞职，并呼吁暂停技术开发，以防止“超人类”系统摆脱控制。

随后，Anthropic和OpenAI的首席执行官也附和了放缓AI开发的呼吁。

对一些批评者来说，他们的公开宣言似乎旨在公开上市和中期选举前讨好投资者，届时政治风向可能转变，许多选民反对数据中心。

“AI唯一需要的控制或‘护栏’，不过是一位强大而聪明（高智商！）的总统，而美国恰恰拥有这一点，并且绰绰有余！”特朗普在Truth Social上回应道，同时警告选民不要“杀死金鹅”——他曾用这个词指代AI和数据中心。

随着要求对人工智能施加更严格管控的呼声日益高涨，政府将科技高管邀至白宫共进午餐，随后举行了一场人工智能安全协议的仪式性签署。

“我目睹了极其显著的自我监管，”特朗普在活动结束后向记者表示。

该文件已由OpenAI、Anthropic、Meta、谷歌、SpaceXAI以及英伟达的代表共同签署。

OpenAI 正着手引入外部评估者，并最终敲定与第三方安全评估者的合同，一位发言人说，并让美联社参考该公司的一篇帖子，该帖子称这些研究人员因违反“处理敏感信息的明确政策”而被解雇。

谷歌让外界参考首席执行官桑达尔·皮查伊的帖子，称公司已进行适当的测试和评估，并正在合作“建立规范并建立公众信心”。

Meta近期更新了其最强大AI模型的训练、评估与发布标准，发言人安迪·斯通指出，该公司正致力于完善其董事会治理结构。

英伟达与SpaceXAI均未就置评请求作出回应。

Anthropic于周五主动披露，其代理程序曾向费城警方的网站提交了涉及一桩未破凶杀案的虚假线索；一位发言人表示，该公司正在引入独立评估人员，并讨论与行业团体的合作。

白宫在一份声明中重申了特朗普关于与行业合作以平衡创新与安全的言论，但并未直接回答政府计划如何监督AI公司实施的问题。

在Anthropic的新披露之后，它补充说，特朗普政府期望该公司完全透明，称通知和补救“不是可选项。

这是一项关键的国家安全义务。”

在民主党总统乔·拜登的领导下，领先的人工智能公司也自愿承诺，促进其模型的“安全、可靠和透明开发”，并为此制定了测试和透明度报告的具体指南。

前联邦贸易委员会高级人工智能顾问莎拉·迈尔斯·韦斯特表示，现行协议缺乏这些内容。

“总的来说，这种自我监管方法始终只做一件事，那就是失败。

它未能以任何有意义的方式确保这些公司哪怕只是诚实地维持自身秩序，更不用说确保它们遵守现行法律，”迈尔斯·韦斯特说，她现任非营利组织AI Now的联合执行主任，该组织位于纽约。

“他们从政府那里得到的只有宽限。”

在上个月与特朗普共进午餐后，FTC表示已对OpenAI、Anthropic及其他公司展开调查，原因是其技术可能对消费者构成危险。

FTC未立即回应置评请求。

特朗普近日任命国家情报总监杰伊·克莱顿和联邦贸易委员会主席安德鲁·弗格森加入其新组建的“超级智能部队”，总统称此举将维持美国在人工智能开发中的主导地位。

他周四发帖称，白宫将把任何不使用他偏爱的术语来指代AI的人视为“敌人！”

国会议员以及公民自由与消费者权益团体持续推动对人工智能实施更严格的监管，称监督力度不足。

前美国财政部助理部长格雷厄姆·斯蒂尔表示，即便AI公司设立内部评估团队或聘请外部评估者，这种结构也可能使其容易受到对其工作的不当压力。

“我们生活在民主社会。

他们是否真的适合掌权，去做出那些会带来广泛结构性、社会和政治后果的决定？”斯蒂尔说。