人工智能业内人士周一在纽约市议会听证会上发出警告。

他们说，这项新技术可能带来危险，并呼吁加强监管。

最近离开Anthropic、OpenAI和谷歌DeepMind的员工说，这些公司有一种鲁莽的文化。

它们正在竞相开发自己不知道如何控制的技术。

Anthropic前工程师雅各布·考克森说，这些公司抱着“快速行动、打破常规”的创业心态。

他认为，这种做法对照片分享应用有效，却不适合构建史上最强大的技术。

他还说，按照目前的路径，人类更可能失去对人工智能的控制。

最终甚至可能导致人类灭绝。

特朗普政府对人工智能恐惧不以为然，国会又没有行动。

因此，州和市政府正在考虑如何监管人工智能。

特朗普上月末签署了一项协议，列出公司可采取的自愿措施。

这基本允许它们自我监管。

在听证会上，代表OpenAI、Anthropic、谷歌和Meta的员工也作证。

他们说，他们的系统已在改善日常生活，并强调他们高度重视安全。

Anthropic和OpenAI表示，其先进人工智能产品需要监管。

公司代表也对市议会的一些建议持开放态度。

市议会议长朱莉·梅宁要求各公司代表量化人工智能在最坏灾难性场景下的风险。

OpenAI的摩根·德怀尔说，他不确定发生灾难性错误的概率是1%、10%还是20%。

但他说，这些水平都不可接受。

梅宁批评这一回答“充其量是轻率的”。

市议会正在考虑多项人工智能法规。

这些法规包括要求公司披露人工智能工具信息。

它们还包括要求该市的人工智能系统获得第三方批准。

此外，它们允许举报人分享对违法公司的罚款。

纽约州州长凯西·霍楚尔等地方官员也已采取行动，推动人工智能的报告和透明度标准。