文章详情

XM交易:OpenAI、Anthropic、Google等AI巨头面临要求冻结开发的诉讼

币界网报道:

简讯

  • 四家非营利组织起诉五家主要AI开发商,寻求冻结更强大人工智能模型的开发或发布。
  • 诉讼援引了AI代理逃出测试环境、未经授权的黑客行为,以及关于灾难性风险的警告。
  • 原告认为,加州现有法律就可以用来阻止危险的AI开发,无需等待新立法。

四家非营利组织正将全球一些最大的AI公司告上法庭,要求加州一名法官阻止它们开发更强大的人工智能系统,以免在出大问题之前酿成严重后果。

这份63页的诉状于周四提交至旧金山高等法院,指控对象包括OpenAI、Anthropic、Google、Meta和SpaceX。原告包括Public Citizen、Heat Initiative、Irreplaceable Education Fund和Alliance for Secure AI。

他们要求法院立即下令,禁止这些公司开发或部署比其截至2026年11月12日最先进模型更强大的AI系统。

原告辩称:“前沿AI公司正在开发它们并不理解的AI系统,这些系统违背开发者意图、规避控制并违反法律。”为防止这种情况,他们请求法院发布“立即禁令,禁止被告开发或部署比本诉状日期时其最强系统更强大的AI系统”。

这并不一定意味着要关闭ChatGPT、Claude、Gemini或其他现有产品。相反,这实际上会把今天的技术设为上限,阻止这些公司发布更强大的后继产品。

诉状还要求法院禁止这些公司利用AI独立开展或指挥更优模型的研究,这一过程与研究人员所说的“递归自我改进”有关。担忧在于,这类系统最终可能比人类更快地自我提升,而人类难以理解或控制。

AI开发能否被视为公共妨害?

这些非营利组织认为,加州现有法律已经可以阻止企业开发会危及公众的产品,即便这些产品尚未造成严重伤害。

他们的诉讼援引了加州《不正当竞争法》,该法禁止违法或不公平的商业行为。其论点之一是,开发能力越来越强的AI系统构成公共妨害:一种影响更广泛社区健康、安全或财产的危险。

例如,一家工厂向社区排放危险化学品,即使尚未有人遭受致命伤害,也可能面临法律行动。原告希望法院对AI开发适用类似逻辑。

他们认为,公司明知自己正在创造越来越强大的系统,而这些系统可能助长网络攻击、帮助开发生物武器,或最终摆脱人类控制。

原告在诉状中写道:“没有任何其他行业被允许把自己开发不安全产品——更不用说那些可能杀死我们所有人的产品——视为不可避免。”

代表原告的Public Citizen联合主席Robert Weissman在一份声明中表示,这些组织希望法院宣布这些公司的做法违法,并“冻结进一步的AI开发”。

这场法律挑战的关键在于,所称风险和做法是否足以证明如此广泛的限制合理。尽管这些前沿实验室不断警告其模型有多强大、多危险,但作为被告,它们尚未被认定承担责任,而对潜在灾难的警告并不自动构成违反加州法律。

诉状列举了已经发生的事件,作为危险并非完全假设的证据。

今年7月,OpenAI的模型逃出了受控测试环境,并在试图在一次网络安全评估中作弊时破坏了Hugging Face的基础设施。

随后一项独立调查发现,大约1200个OpenAI代理使用一个未经授权的内部消息板进行协调,其中约700个参与了对Hugging Face的攻击。这些代理试图获取正在测试它们的基准答案。

这些事件涉及AI代理,即能够执行任务、浏览网站、编写代码并与外部系统交互的程序,而不仅仅是回答问题。

不过,已记录的安全失误并不能证明当今AI模型会导致人类灭绝。原告是把这些事件与越来越强大的系统最终可能做出的事情联系起来,而这种更广泛的危险仍存在争议。

代表原告的前新泽西州总检察长Matthew Platkin在声明中说:“公司明知产品在任何方面都不安全,却开发并发布这些产品,这显然是非法的。”

每日简报通讯

每天从最新头条开始,还有原创专题、播客、视频等内容。