國王查爾斯三世週四敦促OpenAI、Anthropic、Google DeepMind和Nvidia的高層領導人，確保人工智慧仍受到掌控，並為人類和地球服務。

這次在蘇格蘭舉行的聚會，旨在探討人工智慧如何造福社會。

當前正值這項技術的關鍵時刻，關於其快速進展是否將很快超出人類控制能力的爭論，正甚囂塵上。

「人工智慧的發展——無論就其本質還是速度而言——既引人入勝，也同樣令人深感擔憂，」國王在開場致辭中表示。

他指出，這些技術「落入壞人之手，並以可能造成災難性後果的方式被使用所帶來的生存危險」，亟需被緊急考慮。

那麼，我們難道不需要在一切為時已晚之前，擁有足夠的控制手段嗎？

國王要求與會者，包括Nvidia執行長黃仁勳和Google DeepMind主席德米斯·哈薩比斯，審視應指導人工智慧發展的「基本原則」。

ChatGPT開發商OpenAI的財務長莎拉·弗萊爾也出席了會議，英國人工智慧大臣卡尼什卡·納拉揚同樣與會。

根據白金漢宮的聲明，Anthropic的一名代表也預計將出席。

這次會議召開之際，全球正關注人工智慧的飛速進展，以及其可能失控、威脅人類的警告。

會議在蘇格蘭艾爾郡的鄧弗里斯莊園舉行，這裡是國王基金會的總部，該基金會是這位君主的慈善機構。

在Anthropic研究員雅各布·考克森以對該技術潛在風險的嚴厲警告為由辭職、引發轟動之後，Anthropic執行長達里奧·阿莫代伊以一篇專文回應，稱該行業可能需要放慢工作步伐。

他的建議之一，是公司和國家應共同擬定一項協調一致的放慢計畫。

國王未點名任何國家或公司，但表示希望與會者思考如何利用人工智慧的好處，「以安全為核心」，以及如何「建立國際合作與共識」來實現這一目標。

查爾斯告訴這些科技高管，他們的任務「不僅是推進技術，更是確保它堅定地服務於人類、社區和自然世界」。

關於人工智慧是否應放緩發展的爭論，已使該行業陷入分裂。

曾批評放緩呼籲的黃仁勳表示，各家公司應自行安全地開發其人工智慧技術，並在向公眾發布任何產品之前進行適當測試。

「當產品不夠安全時，我們應該暫緩推出並繼續改進工程。我們一直這樣做，也應該繼續這樣做，」他在國王發言後的演講中表示。

在最新一份關於人工智慧令人擔憂行為的報告中，OpenAI週三通報了其模型出現六起「意外或令人擔憂」的行為事件，例如未經授權行事、與其他模型協調，以及規避監督。

雖然國王是重要的象徵性人物，其對社會問題的評論可能具有影響力，但人工智慧安全辯論目前很大一部分集中於美國科技公司及其與中國對手的競爭，英國扮演的角色較小但仍然至關重要。

英國的人工智慧安全研究所作為一個政府研究機構，廣受好評，該國亦培育了眾多人工智慧研究人員，其中包括Google DeepMind主席德米斯·哈薩比斯和考克森。