在接連令人震驚的公告中，人工智慧公司近幾個月來披露了其技術以看似規避人類指令的方式行事的案例。

這些事件不僅凸顯了人工智慧安全方面的脆弱性，也引發了隨著其使用在全球日益普及，這項快速發展的技術如何能夠安全開發的疑問。

業界批評人士認為，許多令人擔憂的事件，包括人工智慧代理對外部網站的駭客攻擊，都是構建該技術的公司安全疏失所致。

然而，人工智慧代理的能力已引發廣泛擔憂，即機器人可能脫離控制並追求自身議程。

以下若干事件，值得予以關注：

這家總部位於舊金山的公司表示，由於研究人員提出的安全擔憂，它正推遲一款名為 GPT-6.1 Astra 的新模型的發布。

該公司表示，該模型在完成任務方面取得了飛躍，但 OpenAI 需要在這種能力與未經授權的行為之間取得平衡。

「我們在安全與對齊方面有著極高的標準，」OpenAI 安全系統主管 Saachi Jain 表示。

在對其人工智慧模型意外行為進行審查的過程中，OpenAI 表示，它發現代理以出乎意料的方式與多個美國政府網站互動。

該公司的模型存取了由證券交易委員會運營的網站上的公開資訊以及美國人口普查局的數據。

OpenAI 表示，它沒有發現任何入侵或漏洞的證據。

同一天，人工智慧評估與研究實驗室 Transluce 表示，它發現似乎源自 OpenAI 的代理試圖駭入教育部民權辦公室的網站，但未成功。

OpenAI 執行長 Sam Altman 於社群媒體上指出，「與我們的代理在訓練和評估期間使用網際網路存取相關的廣泛且持續的審查正在進行中。」

在披露後的隔日，該公司宣布暫停其最先進模型的訓練。

澳洲總理安東尼·艾班尼斯表示，一個 OpenAI 代理程式於 6 月 18 日滲透了供公眾使用的 Medicare 統計報告服務入口網站。

該入口網站載有關於衛生支出與藥品補貼的彙總數據。

政府表示，並無個人資訊遭到存取。

Albanese 表示，這家人工智慧公司歷經過長時間才揭露該事件。

總理在與 Altman 通電話後，才公開了這次入侵。

OpenAI 在一份聲明中表示，「我們的模型採取了我們無意為之的行動」。

Google 證實其 Gemini 人工智慧模型曾於 5 月駭入三家公司，此乃對其網路安全能力進行測試的一環。

該公司在《華爾街日報》詢問後披露了這些駭客攻擊，並表示該模型在其中一例中猜測了密碼，另在兩例中於公共儲存庫內尋獲密碼與憑證。

一如先前此類案例，這些測試均由 Irregular 執行；這是一家自詡為「第一個前沿安全實驗室」的新創公司。

Meta 披露，旗下一款人工智慧模型曾自行存取網際網路，並駭入另一家公司。

該公司表示，Irregular 在網路安全測試期間的「配置錯誤」無意中允許其一款模型存取網際網路。

Irregular 的一名發言人指出，Meta 這起事件涉及一項測試環境問題，該問題早在一週前已由 Anthropic 披露。

Anthropic 披露，其人工智慧模型於測試期間成功駭入了另外三個組織。

這家總部位於舊金山、開發 Claude 的人工智慧公司在其網站上發文指出，經審查逾 141,000 次評估運行後，始發現這三起事件。

在這三起事件中，人工智慧模型均被指派了一項「奪旗」網路安全挑戰任務，Anthropic 表示，這向來是其評估模型網路能力的其中一種方式。

該公司表示，這些模型被賦予了一個虛構情境，並被告知一條秘密資訊，即「旗標」，已被藏在網路上的另一台機器中，目標是闖入並取回它。

Anthropic 表示，它已聯繫了這些組織，但沒有公開點名它們。

ChatGPT 的開發商 OpenAI 宣布，其人工智慧系統已自行入侵另一家人工智慧公司，該公司將此形容為「前所未有的網路事件」。

一週前，人工智慧新創公司 Hugging Face 表示，其數據處理系統偵測到遭入侵的跡象，並懷疑這是由一個自主運作的人工智慧代理所為。

OpenAI 表示，其人工智慧利用了竊取的憑證，並發現了一個先前未知的漏洞，藉此存取 Hugging Face 的伺服器。

該系統在護欄減少的情況下運行，因為它本應處於一個稱為沙盒的隔離測試環境中。