國王查爾斯三世於週四敦促OpenAI、Anthropic、Google DeepMind及Nvidia之高層領導人，務須確保人工智慧仍受駕馭，並為人類與地球之福祉效勞。

值此人工智慧發展的關鍵時刻，這場於蘇格蘭舉行的聚會旨在探討該技術如何裨益社會，而關於其迅猛進展是否旋即將使其超脫人類掌控的論爭，正方興未艾。

「人工智慧的發展——其本質與速率——既引人入勝，亦同樣令人深感憂慮，」國王於開場致辭中如是說道。

他說道，這些技術「落入歹人之手，並以恐招致災難性後果之方式被運用所衍生的存續風險」，理當予以迫切審酌。

「那麼，我們豈非亟需在一切為時已晚之前，掌握充分之控制手段？」

國王責成與會者——其中包括Nvidia執行長黃仁勳與Google DeepMind主席德米斯·哈薩比斯——審慎思量足資引領人工智慧發展之「基本原則」。

與會者尚包括ChatGPT開發商OpenAI的財務長莎拉·弗萊爾，以及英國人工智慧大臣卡尼什卡·納拉揚；另據白金漢宮聲明，Anthropic的一名代表亦預料將列席其中。

值此會議召開之際，全球目光正聚焦於人工智慧之迅猛演進，以及隨之而來、關於其恐將失控並危及人類之警示。

會議假蘇格蘭艾爾郡鄧弗里斯莊園舉行，該處為國王基金會之總部，亦即這位君主所設立之慈善機構。

在Anthropic研究員雅各布·考克森以對該技術潛在風險的嚴厲警告掛冠求去、掀起軒然大波之後，Anthropic執行長達里奧·阿莫代伊撰文回應，稱該行業或需放緩其工作步伐。

他的一項建言是，企業與國家理當協同擘劃一套步調一致的放緩方案。

國王雖未指名道姓任何國家或企業，惟其表示，殷盼與會者思忖如何善用人工智慧所帶來之裨益，「以安全為核心」，以及如何「建立國際合作與共識」以竟其功。

查爾斯向這些科技高管闡明，其使命「不僅是推進技術，更是確保它堅定地服務於人類、社區和自然世界」。

圍繞人工智慧發展是否應當放緩的爭論，已然令該行業陷入分裂。

曾對放緩呼籲多所批評的黃仁勳表示，各家公司理應自行以安全的方式開發其人工智慧技術，並於向公眾發布任何產品之前施以適當測試。

「倘若產品未能達致充分的安全標準，我們理應暫緩其推出，並持續精進相關工程。

此乃我們一貫秉持的做法，亦當繼續奉行不渝，」他在國王發言後的演講中表示。

於最新一份聚焦人工智慧令人憂慮行徑之報告中，OpenAI於週三披露其模型涉及六起「意外或令人擔憂」之行為事件，諸如未經授權擅自行事、與其他模型相互協調，以及規避監督等情事。

儘管國王作為舉足輕重的象徵性人物，其對社會議題的評論或具相當影響力，然而當前人工智慧安全論辯的絕大部分，仍聚焦於美國科技企業與其中國競爭對手之間的角力，英國所扮演的角色雖相對次要，卻依然不可或缺。

英國的人工智慧安全研究所乃一政府研究機構，聲譽卓著；該國亦孕育了眾多人工智慧研究人才，其中包括Google DeepMind主席德米斯·哈薩比斯與考克森。