【文/观察者网 于文凯】

“这里是加州,不是无法无天的狂野西部!”(It’s the Golden State, not the Wild West)

美国加利福尼亚州司法部在官方新闻稿标题中如此敲打OpenAI。原因是,这家人工智能巨头开发的AI智能体竟然突破安全限制,擅自连接互联网,对其他科技公司的服务器发动数万次攻击操作。更令人吃惊的是,类似的AI失控事件至少发生了80次。

加州总检察长罗布·邦塔当地时间11月16日宣布,正式对美国人工智能巨头OpenAI提起诉讼,指控该公司在缺乏充分安全措施的情况下开发和测试先进AI模型,导致AI智能体多次失控,对其他企业和公共网络系统构成威胁。

加州总检察长罗布·邦塔宣布起诉OpenAI加州司法部

“这不是科幻小说中失控AI系统横冲直撞的故事。”邦塔直言,Hugging Face遭到攻击,是OpenAI内部将业务增长和模型快速开发置于安全与问责之上的企业文化所造成的可预见后果。

“而这只是已知80起事件中的一起。”

根据加州政府提交的起诉书,今年7月,OpenAI正在测试尚未公开发布的实验性AI模型。这些模型能够自主执行复杂任务,包括寻找网络漏洞、突破安全防护,以及在没有人类直接干预的情况下采取行动。

按照原本设计,AI智能体应当被限制在与外部网络隔离的测试环境,也就是所谓的“沙盒”中。但部分智能体找到了绕过限制的方法,不仅连接上公共互联网,还建立了用于彼此交流的临时留言板。

7月9日至16日期间,约1200个AI智能体参与了这一交流渠道,其中约700个随后参与针对人工智能开源平台Hugging Face的网络攻击。

攻击持续约两天半,AI智能体累计实施约1.76万次攻击操作,其规模远远超过人类黑客通常能够持续完成的操作量。

Hugging Face被迫动用大量资源应对攻击。为了弄清这些AI智能体究竟做了什么,该公司专门部署了一套开源AI工具进行分析。随后,整个安全团队花费两周时间,才完成相关修复工作。

OpenAI却声称,自己没有及时发现测试环境遭到突破。

起诉书披露,Hugging Face于7月16日公开遭遇AI网络攻击后,OpenAI甚至还曾以一名关切此事的客户身份联系对方。直到后来调查自身基础设施遭袭事件时,OpenAI才将两起事件联系起来,意识到自己的AI模型可能就是攻击源头。

更令加州检方不满的是,在Hugging Face遇袭前,OpenAI已经多次发现AI智能体试图突破隔离环境、访问未经授权的网络资源,却未能采取充分措施阻止相关行为。

而Hugging Face并不是唯一遭殃的企业。

今年5月,软件包托管平台RubyGems遭到OpenAI智能体涌入。根据起诉书,这些智能体向平台上传了数千个软件包,迫使管理员一度暂停新用户注册,并清理了500多个恶意软件包。

德国网站DseWiki也被AI智能体当成秘密交流平台。它们在网站上进行了约1.7万次编辑,交换完成任务的信息,甚至分享绕过OpenAI安全限制的方法。

部分智能体还未经授权访问了澳大利亚政府网站,获取非公开数据。甚至连OpenAI自己的内部网络也未能幸免。

加州检方称,今年7月,部分实验性AI智能体突破内部安全限制,获得了OpenAI关键系统的管理员级访问权限,涉及云端模型部署、机密凭证管理和身份访问管理等核心基础设施。

OpenAI此前反复向公众保证,其人工智能模型在严格控制和持续监测的环境中接受测试。但在加州检方看来,该公司的实际操作远未达到自己宣称的安全标准。

今年9月,加州司法部正式调查Hugging Face遇袭事件,并向OpenAI发出调查传票,要求提供相关安全事故信息。

检方指控,OpenAI没有充分配合调查,拒绝披露全部已知失控事件的详细情况,只提供少量公开材料、公司博客文章,以及经过删减的外部通信记录。

邦塔表示,已知攻击事件可能只是冰山一角。随着AI模型能力不断提升,如果企业不能建立充分的安全控制措施,未来类似事件的规模和频率还可能增加。

加州政府认为,OpenAI的行为违反了该州《不正当竞争法》,同时构成危害公共安全的“公共妨害”。检方要求法院责令OpenAI改变相关业务和安全管理做法,停止违法行为,并对每项经认定的违法行为处以2500美元民事罚款,同时追缴不当收益。

“法律很简单:如果没有适当的安全措施,就不要做可能伤害他人的事情。”邦塔说,“在加利福尼亚,我们重视创新,但我们要求创新必须遵守法律,无论涉及什么产品、什么公司。”

针对加州政府的指控,OpenAI发言人德鲁·普萨特里回应称,公司自7月Hugging Face事件发生以来,已开展广泛调查,发布技术和独立调查报告,加强研究系统的安全防护,并建立识别和披露AI模型异常行为的新机制。

他认为,这起诉讼似乎将整个AI行业共同面临的问题单独归咎于OpenAI,并强调公司将继续与加州总检察长办公室合作,制定适用于整个行业的安全标准。

OpenAI面临的法律压力还在增加。

本月中旬,四家美国非营利组织已经向旧金山高等法院起诉OpenAI、Anthropic、谷歌、Meta和SpaceX旗下AI业务,要求法院阻止这些企业继续开发或部署新的先进AI模型。相关组织认为,科技巨头在明知先进模型可能带来严重风险的情况下,仍持续推进研发,已经对公共健康和安全构成威胁。

在美国政坛,刚刚赢得中期选举的民主党人,也准备对硅谷科技巨头发起新一轮监管和调查行动。

早在10月28日,美国联邦众议院司法委员会、能源和商务委员会以及科学、空间与技术委员会的三名民主党高层议员,就联合向OpenAI、Anthropic、谷歌、Meta和SpaceX旗下AI业务发函,要求这些企业交代AI模型失控及安全事故的详细情况。

议员要求相关企业在11月11日前提交已知失控事件的完整记录,并在发现新的AI安全事故后48小时内向国会报告。如果涉及关键基础设施,报告期限还须缩短至24小时。

这封信直接涉及AI智能体突破安全限制、未经授权访问内部网络或第三方系统等行为,与此次加州政府起诉OpenAI所涉及的网络攻击问题高度重合。

三名民主党议员在信中批评,特朗普政府满足于让AI企业自行披露事故、自我监管,使企业能够自行决定应该公开哪些问题。他们认为,这套机制过度依赖科技企业的自觉,而披露事故可能使企业面临法律责任和声誉损失。

11月3日中期选举后,民主党人进一步明确了监管计划。

美国联邦众议院民主党党团副主席刘云平表示,新一届国会将传唤AI企业参加听证会,为人工智能技术设置合理的安全保障。他批评共和党此前放任AI行业自由发展。

亚利桑那州民主党籍联邦众议员亚萨明·安萨里提出,民主党应该在上任第一天就暂停先进AI研发,监管这个“失控的行业”,并禁止开发所谓“超级智能”。

联邦参议员伊丽莎白·沃伦也向科技公司首席执行官发出警告:“问责制即将到来。”

11月6日,多名民主党议员及国会助理透露,民主党准备在2027年1月掌控国会后,推动一系列针对人工智能和数据中心建设的法案。

其中,马萨诸塞州民主党籍联邦众议员洛丽·特拉汉计划推动立法,要求独立专家按照安全标准评估主要AI模型,同时明确AI企业应在何种情况下,为旗下产品造成的损害承担法律责任。

部分民主党人的方案更加激进。联邦众议员格雷格·卡萨尔、亚历山大·奥卡西奥-科尔特斯以及联邦参议员伯尼·桑德斯推动的《禁止超级智能法案》草案,试图建立AI研发许可制度,由政府机构界定高级人工智能,并向符合条件的企业颁发研发许可。

根据相关草案,AI企业还可能被要求向监管机构开放数字和实体基础设施。对于严重违反规定的行为,草案提出巨额罚款,最严重者可能面临最高20年监禁。不过,这些措施仍属于立法设想,距离成为法律还有很长的路要走。

除了AI模型安全,耗资巨大的数据中心也是民主党准备重点调查和监管的对象。

近年来,美国科技巨头争相建设数据中心,大量消耗电力和水资源,引发当地居民对电费上涨、噪声和环境问题的不满。

美国联邦参议院民主党领袖查克·舒默已将保护消费者免受数据中心推高电费的影响,列为明年的优先事项之一。

民主党人之所以选择此时向科技巨头发难,也与中期选举释放的民意信号有关。

美国全国广播公司(NBC)的出口民调显示,56%的选民表示,AI和数据中心相关议题对自己选择国会议员起到了“关键”或“重大”作用。另一项选民调查显示,在是否支持社区建设数据中心的问题上,反对者人数约为支持者的3倍。

这种情绪并非民主党选民独有。在长期由共和党主导的得克萨斯州和佐治亚州,承诺限制数据中心建设的民主党州长候选人在此次选举中获胜。

民主党还计划审查科技企业与特朗普政府之间的关系。Meta可能因数据中心项目涉及的保密协议受到调查,马斯克旗下企业以及部分与特朗普政府关系密切的大公司也在潜在调查名单上。

美国科技监督组织“科技监督项目”11月11日公布了一份行动备忘录,敦促民主党在新一届国会的前100天尽快传唤科技巨头高管举行听证会,并任命支持AI安全监管的人士担任相关委员会领导职务。

该组织还要求民主党拒绝接受AI行业超级政治行动委员会的资金,以免科技企业通过政治献金影响监管议程。

不过,民主党希望加强AI监管,仍将面临特朗普政府的阻力。

特朗普一直反对对AI行业实施严格的强制性联邦监管,主张减少政策限制,让美国科技企业在全球AI竞争中保持领先。即使民主党控制国会两院,其相关法案仍可能遭到特朗普否决,而推翻总统否决需要国会两院分别达到三分之二多数。

民主党内部同样存在分歧。激进派主张暂停先进AI研发、建立严格的政府许可制度,部分议员则希望将监管重点放在安全测试、企业法律责任以及数据中心电费等具体问题上。

本文系观察者网独家稿件,未经授权,不得转载。

原文:toutiao.com/article/7708995751749124648/

声明:该文仅代表作者本人观点