科技週在舊金山如火如荼地展開，本週讓這座城市的餐廳擠滿了創投家和AI創辦人，他們對白宮在監管人工智慧上的立場——也就是不要監管——感到振奮。

然而，在歷經數月關於領先AI公司不受約束的AI代理干預從美國政府網站到醫療保健資料等一切事物的辯論後，這個國家如今在治理AI系統方面，反而比幾年前離目標更遠了。

上月底，總統唐納·川普將科技巨頭帶到華盛頓，出席午餐會，並舉行了一場自願性安全協議的象徵性簽署儀式。

他形容該協議「幾乎是一部憲法」，其核心在於「超級智慧」——這是政府對AI的新偏好稱呼。

這份308字的協議要求先進AI實驗室遵循安全規範，並成立內部團隊監督自身進展，然而政府尚未說明具體細節，交代該如何——借用OpenAI執行長山姆·奧特曼的說法——避免「壞事」發生。

週三，在舊金山一處擁擠的活動空間裡，安全挑戰並非眾人最關心的問題。

在該場合，創辦人與資助者表示，政府這種放手不管的做法，將為打造AI驅動國防與安全系統的公司帶來更高利潤。

在一場以「投資前沿」為主題的會議上，與會者對政府支持產業的看多立場表示讚揚。

該會議是創投公司Andreessen Horowitz所主辦的一系列快閃活動之一，而該公司負責人為川普的科學與科技顧問。

「我想先從一個我認為真正突顯國防投資機會的數字開始，那就是1兆美元。

美國政府首次將其國防支出的1兆美元用於國防。

而其中135億美元將用於自主系統和AI。」

市場情報平台PitchBook的創投資深研究總監凱爾·史丹佛說。

「這顯然為國防科技支出帶來了大量資本，比我們以往見過的還多。」

一天後，OpenAI總部的三名研究人員表示，這家ChatGPT開發商已將他們解僱，並發文稱「恐懼和不明確的規則阻礙了AI安全工作」。

此外，OpenAI安全團隊的一名負責人大衛·羅賓森直到最近才辭職，他對讓這些先進實驗室自我監管表達了擔憂。

「這無法取代具有約束力的法律，而且它著實賦予了這些公司相當大的自由。」羅賓森表示。

「模型世代之間的時間間隔以週為單位……我認為我們將在更近的未來面臨若干極為嚴峻的安全挑戰。」

川普已將其政治資本押注於AI產業的成功，並稱其不受約束的發展是贏得對中國AI競賽的關鍵。

在他第二個任期的第一天，這位共和黨總統廢除了拜登時期的一項行政命令，該命令部分旨在防範AI系統對消費者、勞工和國家安全構成的風險。

他的政府此後將聯邦政策從監督轉向快速成長，包括撤銷先前要求AI開發者與聯邦政府分享安全測試結果的規定。

12月，川普簽署了一項行政命令，旨在阻止州層級AI監管，稱拼湊式的規則可能扼殺該產業。

縱然矽谷公司全年均披露其模型涉及令人不安的網路攻擊，這個新興科技產業仍持續推動經濟成長。

對AI安全的擔憂，主要集中於生存性風險，而非當前現實世界的危害，這在上個月成為辯論焦點。

當時，一名相對不知名的Anthropic工程師辭職，並呼籲暫停科技發展，以防止「超人類」系統逃脫控制。

隨後，Anthropic和OpenAI的執行長也附和放慢AI發展的呼籲。

對一些批評者而言，他們的公開宣言似乎是為了在上市和期中選舉前討好投資人；期中選舉時，隨著許多選民反對資料中心，政治風向可能轉變。

「AI唯一需要的控制或『護欄』，就是一位強大又聰明（高智商！）的總統，而美國完全具備這一點，而且綽綽有餘！」川普在Truth Social上回應道，並警告選民不要「殺掉金雞母」——他曾用這個詞來指AI和資料中心。

隨著對AI施加更嚴格管控的呼聲升溫，政府邀集科技界高層前往白宮共進午餐，其後舉行了AI安全協議的象徵性簽署儀式。

「我看到的，是極大的自我監管。」川普在活動後告訴記者。

本文件乃由OpenAI、Anthropic、Meta、Google、SpaceXAI及Nvidia之代表共同签署。

一名發言人表示，OpenAI已承諾引進外部評估人員，並與第三方安全評估機構簽訂合約。

該發言人請美聯社查閱公司的一則貼文，該貼文稱這些研究人員因違反「處理敏感資訊的明確政策」而被解僱。

Google請外界參酌執行長桑德爾·皮查伊的貼文，內容稱公司將進行適當測試與評估，並正合作「建立規範並建立公眾信心」。

Meta近期更新了其訓練、評估及發布最強大AI模型的標準，發言人安迪·史東指出，公司正努力完善董事會的治理結構。

Nvidia與SpaceXAI均未就置評請求作出回應。

Anthropic的一名發言人表示，該公司正引入獨立評估員，並與產業團體商討合作。

Anthropic上週五自願披露，其代理曾向費城警方網站提交一則關於一起未破凶殺案的不實線報。

白宮在聲明中重申川普關於與產業合作以平衡創新與安全的言論，但沒有直接回答政府計劃如何監督AI公司落實情況的問題。

在Anthropic最新披露後，白宮補充說，川普政府期望該公司完全透明，並表示通知與補救「不是可選項。這是關鍵的國家安全義務。」

在民主黨總統喬·拜登執政期間，領先的人工智慧公司亦自願承諾，推動其模型「安全、可靠且透明的發展」，並納入具體的測試指引與透明度報告。

然而，前聯邦貿易委員會資深AI顧問莎拉·邁爾斯·韋斯特指出，現行協議缺乏這些內容。

「總體而言，這種自我監管做法始終只做了一件事，那就是失敗。

它未能以任何有意義的方式確保這些公司甚至誠實地管好自己的事，更不用說確保它們遵守現行法律。」

現任紐約非營利組織AI Now聯合執行董事的邁爾斯·韋斯特說。

「它們從這個政府得到的，只有寬容。」

在上個月與川普共進午餐後，FTC表示已就OpenAI、Anthropic及其他公司之技術可能對消費者構成的風險展開調查。

FTC未立即回應置評請求。

川普近日任命國家情報總監傑伊·克萊頓與聯邦貿易委員會主席安德魯·弗格森，加入其新成立的「超級智慧部隊」。

總統表示，此舉將使美國在人工智慧發展中維持主導地位。

他週四發文稱，白宮將把任何不以他偏好措辭指稱AI的人視為「敵人！」

國會議員以及公民自由與消費者權利團體持續推動對AI施加更多監管，稱監督不足。

前美國財政部助理部長格雷厄姆·斯蒂爾表示，即便AI公司組建內部評估團隊或延攬外部評估員，此類安排仍可能令其工作易受不當壓力左右。

「我們生活在民主社會中。

他們是否是擁有權力、能做出帶來廣泛結構性、社會性與政治性後果之決定的合適人選？」斯蒂爾說。