人工智慧業內人士於週一對紐約市領導層提出告誡，指陳此一新興技術所潛藏之危害，並籲請強化監督機制；蓋地方政府正著手回應公眾與日俱增之憂慮，即此類系統恐將危及人類存續。

在紐約市議會的一場聽證會上，近期自Anthropic、OpenAI與Google DeepMind去職的員工，將這些企業內部的文化描繪為鹵莽輕率，並指稱規模最為龐大的科技公司正競相研發彼等不知如何駕馭的技術。

「這些企業以初創心態運作：迅捷行動，打破成規，日後再行修補。

此舉對一款照片分享應用程式而言尚能奏效；然而，對於打造史上最為強大的技術而言，則全然無效，」Anthropic前工程師雅各布·考克森如是說，而他已然成為監管的主要倡導者。

州與市政府長期以來一直在權衡監管人工智慧的途徑，此乃因川普政府採取了消極被動的立場，而國會亦已證明其束手無策。

總統唐納德·川普將對AI的恐懼斥為「騙局」，並於上月底簽署了一項協議，列舉出企業可採行的一系列自願性措施，實質上等同於允許其自我監管。

考克森原本不過是Anthropic麾下一名籍籍無名的工程師，直至他藉由一連串社群媒體貼文昭告去職，方才引發舉世矚目。

他向議會坦言，人工智慧或可締造莫大福祉，然若闕如透明度與保障機制，事態恐更易於失控。

「依循當前之發展軌跡，吾人研判人類喪失對該等人工智慧系統之掌控權，其概率恐有過之，且或將以人類滅絕為終局，」考克森如是言。

考克森辭職並表達其對最壞情況之憂懼後數日，包括Anthropic的達里奧·阿莫代伊、OpenAI的薩姆·奧爾特曼、SpaceXAI的伊隆·馬斯克在內之高階主管均表示，彼等認同AI之發展亟需放緩。

AI公司詳述其為優先考量安全所採行之舉措，然協調一致之行業放緩仍面臨若干障礙。

一個由AI企業從業人員所組成的代表團——分別代表科技巨擘OpenAI、Anthropic、Google與Meta——亦於週一在曼哈頓舉行的聽證會上作證，向官員表示其系統已然在提升民眾的日常生活品質，並強調他們正傾注全力於安全層面。

Anthropic與OpenAI均已表明，其先進人工智慧產品理應納入監管範疇；兩家公司代表於聽證會上，對議會所提若干建議展現出開放態度。

「我與諸位同樣矢志確保技術之安全發展，並促使其所締之福祉廣為共享，」OpenAI的摩根·德懷爾如是說道。

在聽證會進行至某一節點之際，市議會議長朱莉·梅寧敦促每位公司代表「量化AI於最壞災難性情境下所構成之風險」。

德懷爾答道：「我無從得知——我亦不認為災難性失誤的機率究竟為1%、10%抑或20%有何實質意義。

上述任何水準皆全然不可接受。

倘若我們無法極其有力地證明模型可置於人類掌控之下，便不應著手訓練該等模型。」

梅寧嚴詞抨擊該項回應，斥其「充其量不過是輕率之舉」。

「我會說，機率百分比實屬無關宏旨。要緊的是對安全之承諾，而此正為OpenAI所允諾踐行者，」德懷爾如是說道。

市議會現正審議多項人工智慧監管草案，其內容涵蓋：責成企業披露其AI工具之相關資訊、要求該市所轄AI系統須經第三方核准，以及賦予舉報人分潤權——就違法AI企業所處罰鍰中獲取一定比例之獎金。

此外，紐約州州長、民主黨籍的凱西·霍楚爾已著手針對AI技術建構報告與透明度規範；其他各州州長亦群起效尤，惟其權限終究有所掣肘，蓋AI技術本質上得以跨越州界，乃至遍及全球。

Anthropic的洛根·格雷厄姆向議會表示，該公司樂見「明智的監管」，並認為州與地方政府在制定相關框架方面可發揮作用。

「AI之效能既已臻於強大，一旦失誤，必貽切實之患，於個人、於機構、於公眾信任，莫不皆然，」彼言。

「吾人務須孜孜不怠，精研風險消弭之學。」