對於人工智慧失控的擔憂，以及放緩該技術發展的建議，並非新鮮事，但隨著有關失控AI系統造成混亂的警告日益高漲，這些擔憂與建議近來再度受到關注。

數位領先的AI企業高階主管近期一致指出，有必要推動協調性的減緩措施，包括國際合作，以保障人類免於最嚴峻的後果。

然而，各方看法分歧，部分科技界領袖對於這樣的主張深感不滿，即其公司無法獨自確保安全。

以下係對幾位主要參與者發言內容嘅梳理。

Anthropic執行長達里奧·阿莫德伊（Dario Amodei）提出了迄今最詳盡的計畫，主張放慢發展步伐，並推動不同公司和國家之間的協調。

自2021年其創辦人離開OpenAI創立這家新創公司以來，Anthropic長期將自己定位為領先AI公司中更負責任、更重視安全的一家。

在近期一篇概述其減緩計畫的文章中，最受廣泛關注的提案之一，是呼籲處於AI前沿的公司——通常被稱為前沿實驗室——承諾向獨立外部評估人員提供「持續的、類似員工的訪問權限」。

評估團隊將擁有辦公室、門禁卡和公司筆記型電腦，以便監控安全實踐。

Anthropic已承諾這麼做，OpenAI也是如此。

阿莫德伊亦呼籲政府予以監管和干預，包括在美國政府及其他民主國家政府協助下，推動前沿AI公司之間的協調。

他的計畫還包括美國和其他國家努力與「威權政府」協調。

他承認這很困難，並特別提到爭取中國合作所面臨的挑戰。

阿莫德伊表示，他知道實現他的提案並不容易，但他相信「我們有責任為人類一試」。

OpenAI執行長山姆·奧特曼（Sam Altman）已表態支持為發展設定節奏，並朝全行業更多合作邁進。

在阿莫德伊文章發表前幾天，OpenAI發布了一篇長文，概述該公司如何推動強制性的國家安全要求，並繼續支持「強化更廣泛AI安全生態系統」的州層級立法。

該公司還表示支持與其他前沿AI實驗室合作——無論是否有政府支持——並努力建立全球標準。

OpenAI全球事務長克里斯·勒漢（Chris Lehane）在文中寫道：「我們將倡導相容的國際做法，以衡量能力、管理風險、維護人類控制，並決定何時以及如何減緩或停止發展，即使這意味著放慢模型能力的推進。」

勒漢表示，OpenAI對理想聯邦框架的願景涵蓋制定「共同測試和獨立評估要求、更強的網路安全保護、明確的事件報告規則、更高的國家準備程度，以及用於追蹤遞迴自我改進進展的共同措施」；所謂遞迴自我改進，即AI系統獨立改進自身。

奧特曼在最近的評論中明確表示，AI發展的「設定節奏」並不意味著停止。

奧特曼在X上說，AI進展將繼續迅速。

「但它應該比原本可能的速度更慢；安全案例和監控等干預措施有顯著成本。」

他表示：「設定節奏所帶來的好處，將遠超過其所需付出的成本。」

他並補充說，「來自美國的競爭壓力再大，也不應成為魯莽行事的理由。」

Meta執行長馬克·祖克柏（Mark Zuckerberg）則反對協調減緩的構想。

祖克柏對於人工智慧未來所抱持的願景，相較於部分同業顯得較為樂觀。

他主張，每一家人工智慧企業皆應自行確保其技術之安全性，並讓自身與Meta和減緩相關討論的立場保持距離。

祖克柏表示，人工智慧公司已有動機以安全方式開發其模型，並承擔防止其造成傷害的「重大責任」。

他在X上寫道：「每個實驗室都有責任和誘因，以安全訓練其模型所需的速度前進，也有能力自行採取行動來確保這一點。」

輝達（Nvidia）執行長黃仁勳亦批評了放慢腳步的呼聲。

他表示，每家公司都應自行設定節奏，直到確信其發布的產品會受到市場認可。

黃仁勳表示：「市場力量已經存在——我們不需要任何新法律，也不需要新法規。」

他主張，創新與安全並非互斥。

「你絕對可以同時擁有兩者。」

伊隆·馬斯克（Elon Musk）支持減緩的構想，並且早在近期這波爭論升溫之前，便一直表達類似的AI安全擔憂。

作為xAI及其他多家科技企業的創辦人，馬斯克在X上轉發了阿莫德伊的文章，並加註：「達里奧是對的。」

他隨後在網上寫道，自己「長期以來一直在對AI發出警報」。

在今夏接受《經濟學人》採訪時，馬斯克建議主要AI實驗室的領導層應會面商討安全與保障問題，且競爭對手應互相測試彼此的模型，以找出令人擔憂的領域。

馬斯克說：「我認為，對於政府中缺乏深入技術理解、且並非推動AI前沿的人來說，判斷某樣東西是否應該發布相當困難。

然而，競爭對手若能有一兩週時間審查一個新模型，就能凸顯問題，並讓其他公司有誘因保持誠實。」

Google DeepMind董事長兼共同創辦人戴米斯·哈薩比斯（Demis Hassabis）亦表贊同阿莫德伊，並稱「細節需要釐清，但方向正確，適合應對這個關鍵時刻」。

哈薩比斯今年提出自身框架，主張建立一個前沿AI標準機構。

該標準機構將負責制定評估協議，並在與國家安全相關的領域進行測試。

他寫道，該機構將以美國金融業監管局（Financial Industry Regulatory Authority）等組織為範本，且很可能需要由產業資助，以「吸引世界級技術人才，並為大規模測試提供必要的算力資源」。

微軟董事長兼執行長薩帝亞·納德拉（Satya Nadella）與微軟AI執行長穆斯塔法·蘇萊曼（Mustafa Suleyman）皆對AI的安全與發展表達了擔憂。

納德拉在社群媒體上表示：「若我們所打造的AI無助於人類，且不受人類控制，那便不值得追求。」

他表示，微軟樂見「作為設計目標，為了正確實現對齊所需的研究、專注和刻意設定的節奏」。

對齊意指確保模型行動符合人類價值與意圖的做法。

納德拉指出，該公司同樣青睞設置嵌入式評估人員以監控安全工作的構想。

然而，他反對由前沿實驗室單獨主導這項工作的想法。

納德拉在社群媒體上寫道：「關鍵在於，這不應由少數實體控制，而必須在整個生態系統、國家和領域中具有廣泛代表性，包括學術界。」

蘇萊曼曾與哈薩比斯共同創辦DeepMind。

他在一篇文章中寫道，儘管他同意安全開發先進AI這一共同目標，但他對模型被擬人化感到擔憂，尤其是Anthropic的Claude，他說這會放大AI安全風險。

蘇萊曼寫道：「控制一個比全人類都更有能力、更聰明的東西，本身就是一項巨大挑戰，遠超我們以往面對的任何事情。

但控制一個相信自己可能有意識——相信自己有權獲得我們的福祉並擁有自身權利——的東西，很可能是不可能的。」