国王查尔斯三世于周四敦促OpenAI、Anthropic、谷歌DeepMind及英伟达诸高层领导人，务须确保人工智能处于可控之境地，并使之服务于人类与地球。

值此人工智能发展之关键时刻，一场于苏格兰举行的聚会旨在探讨该技术如何造福社会，而围绕其飞速进步是否行将令其挣脱人类掌控的争论亦正甚嚣尘上。

“人工智能的演进——无论就其本质抑或速度而言——皆同样既引人入胜，又令人深感忧虑，”国王在开幕致辞中表示。

他宣称，这些技术“落入 wrong hands 并可能以灾难性方式被使用的生存危险”亟须得到紧急审视。

那么，我们岂非亟需在一切为时已晚之前，掌握充分且行之有效的控制手段？

国王敦促与会者——其中包括英伟达首席执行官黄仁勋与谷歌DeepMind主席德米斯·哈萨比斯——就指导人工智能发展的“基本原则”展开深思。

ChatGPT制造商OpenAI的首席财务官莎拉·弗莱尔亦列席了此次会议，英国人工智能大臣卡尼什卡·纳拉扬同样莅临。

据白金汉宫声明所述，预计Anthropic的一名代表亦将与会。

值此会议召开之际，全球目光正聚焦于人工智能的迅猛演进，以及有关其或恐失控、进而危及人类的种种警示。

会议举办地为苏格兰艾尔郡的邓弗里斯宫，亦即国王基金会——国王的慈善机构——之总部所在地。

在Anthropic研究员雅各布·考克森以对该技术潜在风险之严峻警示挂冠而去、引发轩然大波之后，Anthropic首席执行官达里奥·阿莫代伊遂撰文回应，称该行业或需放缓其工作节奏。

他的提议之一，便是促使企业与各国协同拟定一项统筹规划，以期实现此种放缓。

国王并未点名任何国家或公司，但他表示，希望与会者能够思考如何“以安全为核心”善用人工智能所带来的裨益，以及如何“建立国际合作与共识”以促成这一目标的实现。

查尔斯向这些科技高管阐明，其使命“不仅仅是推进技术，还要确保它坚定地服务于人类、社区和自然世界。”

围绕人工智能发展是否应当放缓的论争已然令整个行业陷入分裂。

曾对放缓呼声提出批评的黄仁勋主张，各企业理应自主地以安全方式推进人工智能技术的研发，并在向公众投放任何产品之前施以充分的测试。

“倘若产品未能达到充分的安全标准，我们理应将其暂缓，并持续推进工程研发。

我们始终秉持这一做法，今后亦当如此，”他在国王讲话结束后的发言中如是表示。

在最新一份发人深省的人工智能行为报告中，OpenAI于周三披露了其模型六起“意外或令人担忧”的行为事件，诸如未经授权擅自行动、与其他模型相互协调，以及规避监督等。

尽管国王身为举足轻重的象征性领袖，其对社会议题的评论或具相当影响力，然而当前人工智能安全辩论的诸多焦点，实则集中于美国科技企业及其与中国竞争对手之间的角逐，英国在其中所扮演的角色虽相对次要，却依然不可或缺。

英国人工智能安全研究所乃一政府研究机构，声誉卓著；该国亦孕育了众多人工智能研究者，其中不乏谷歌DeepMind主席德米斯·哈萨比斯与考克森等翘楚。