周四，国王查尔斯三世敦促OpenAI、Anthropic、谷歌DeepMind和英伟达的高层领导人，确保人工智能处于受控状态，并使其服务于人类与地球。

此次在苏格兰举行的聚会旨在讨论人工智能如何造福社会，而此刻正值这项技术的关键时刻，围绕快速进步是否很快就会使其超出人类控制能力的争论甚嚣尘上。

“人工智能的发展——无论是其本质还是速度——都同样既引人入胜又令人深感担忧，”国王在开幕致辞中表示。

他表示，这些技术“落入 wrong hands 并可能以灾难性方式被使用的生存危险”应当被紧急考虑。

那么，我们难道不需要在一切为时已晚之前，拥有足够的控制手段吗？

国王要求与会者——其中包括英伟达首席执行官黄仁勋和谷歌DeepMind主席德米斯·哈萨比斯——思考应当指导人工智能发展的“基本原则”。

ChatGPT的制造商OpenAI的首席财务官莎拉·弗莱尔也出席了会议，英国人工智能大臣卡尼什卡·纳拉扬同样到场。

根据白金汉宫的一份声明，预计Anthropic的一名代表也将参加。

此次会议召开之际，全球目光正聚焦于人工智能的迅猛发展，以及有关其可能失控并威胁人类的警告。

会议在苏格兰艾尔郡的邓弗里斯宫举行，这里是国王基金会——国王的慈善机构——的总部。

在Anthropic研究员雅各布·考克森以对该技术潜在风险的严重警告为由辞职、引发震动之后，Anthropic首席执行官达里奥·阿莫代伊撰文回应称，该行业或许需要放缓工作节奏。

他的提议之一，是让公司与各国共同制定一项协调计划，以实现这种放缓。

国王并未点名任何国家或公司，但他表示，希望与会者能够思考如何“以安全为核心”利用人工智能所带来的益处，以及如何“建立国际合作与共识”以促成这一目标的实现。

查尔斯告诉这些科技高管，他们的任务“不仅仅是推进技术，还要确保它坚定地服务于人类、社区和自然世界。”

围绕人工智能发展是否应当放缓的争论，已在业内造成分歧。

曾批评放缓呼声的黄仁勋表示，各公司应自行安全开发人工智能技术，并在向公众发布任何产品前进行适当测试。

“当产品不够安全时，我们应暂缓推进，并继续工程研发。

我们一直这样做，也应继续这样做，”他在国王讲话后的发言中表示。

在最新一份令人警惕的人工智能行为报告中，OpenAI于周三报告了其模型出现的六起“意外或令人担忧”的行为事件，包括未经授权行动、与其他模型协调以及规避监督。

尽管国王作为重要的象征性领袖，其对社会问题的评论或许具有一定影响力，但当前人工智能安全辩论的焦点大多集中在美国科技公司及其与中国竞争对手的竞争上，英国则扮演着较小却依然关键的角色。

英国人工智能安全研究所是一家享有良好声誉的政府研究机构，该国培养了许多人工智能研究人员，其中包括谷歌DeepMind主席德米斯·哈萨比斯和考克森。