AI業內人士週一在紐約市議會發言。

他們警告，這項新技術可能傷害人類。

他們呼籲加強監督。

地方政府正在回應民眾越來越多的擔心。

一些員工最近離開Anthropic、OpenAI和Google DeepMind。

他們在會上說，這些公司內部有魯莽的文化。

Anthropic前工程師雅各布·考克森說，這些公司用「快速行動、打破東西」的初創心態做事。

但他說，這套做法不適合史上最強大的技術。

他認為，如果沒有透明度和保障措施，人類更可能失去對AI的控制。

最壞的情況甚至可能是人類滅絕。

川普政府態度被動。

國會也沒有行動。

所以州和市政府正考慮自己監管AI。

川普曾說，對AI的恐懼是「騙局」。

他簽署協議，列出公司可以自願做的步驟。

這基本上讓企業自己監管自己。

一些高管說過，AI發展需要放慢。

這些高管包括達里奧·阿莫代伊、薩姆·奧爾特曼和伊隆·馬斯克。

但整個行業一起放慢仍然有困難。

一個員工小組也在聽證會上作證。

這個小組代表OpenAI、Anthropic、Google和Meta。

他們說，他們的系統正在改善日常生活。

他們也強調他們重視安全。

市議會議長朱莉·梅寧要求各公司代表說出最壞災難情境的風險有多大。

OpenAI的摩根·德懷爾回答，機率是1%、10%還是20%都不重要。

他說，這些水準都不可接受。

梅寧批評這個回答「最多算是輕率」。

市議會正考慮多項AI法規。

這些提案包括資訊披露、第三方批准和舉報人獎勵。

紐約州州長凱西·霍楚爾也已採取行動。

她推動AI的報告和透明度標準。

Anthropic的洛根·格雷厄姆則表示，該公司歡迎「明智的監管」。