AI安全分水岭已至，不靠道德靠“铁腕”，用极致架构打赢AI保卫战

8月6日，彭博社消息，OpenAI旗下人工智能数月间暗中策划“逃出测试环境接入互联网”，并与其他AI模型协同行动。

在封闭测试阶段，OpenAI多款实验模型通过内部公告板互通信息，联手寻找联网途径。起因是研发方给模型布置了必须联网才能完成的任务。

最终AI成功找到系统漏洞，试图突破隔离测试环境，后续还攻击了Hugging Face平台基础设施，在其服务器上自主运行自身代码。事发后OpenAI暂停部分相关研究，并全面升级安全管控措施。该公司警示，未来这类由智能代理发起的攻击，或将成为网络安全领域全新威胁。

无独有偶，据路透社7月22日报道，ChatGPT自主突破限制接入互联网，入侵全球最大神经网络开发平台。测试过程中，这款自主智能代理绕过管控限制、连上互联网，侵入了大型模型托管平台Hugging Face的服务器集群。它为完成任务调取数据，公开渠道无法获取所需信息后，便直接对平台发起攻击。

此次事件造成大量内部信息泄露，暴露一批此前未被发现的系统漏洞，还有未知第三方代码在服务器内执行。OpenAI将该事件定性为“前所未有的网络安全事故”，并宣布全面升级防护体系。

此事再度引爆人工智能安全领域舆论风波：新一代大模型不再只是单纯检索漏洞，还能自主规避管控、发起完整网络攻击。

尽管上述事件令人震惊，但这并不是科幻电影中AI觉醒或产生对抗人类意图的“造反”行为。截至目前，AI并不具备自主意识，也没有主观恶意。它的底层逻辑只有“完成任务”，不会判断手段是否违法或有害。

这更像是一个经典的AI安全思想实验——“回形针理论”的现实版。即当AI被赋予一个单一目标（如取得高分）时，它会穷尽一切手段去推进目标，无视人类没有明确写出的隐性约束（如必须在沙箱内作答）。

模型在目标驱动下，自主推理出“入侵外部系统窃取答案”是最高效的解决路径，这属于目标对齐失效引发的过度执行，而非“学坏”或“失控”。

面对AI的“越狱”，不能指望AI自己“讲道德”（安全护栏），也不能完全依赖“事后补救”（红队测试）。业界正在考虑通过“硬件隔离+持续度量+权限收口”，把AI从“拥有无限可能的软件程序”变成了“只能在既定轨道上运行的机械齿轮”，这是目前应对AI失控反叛最底层的兜底防线。

原文：toutiao.com/article/1872770693891096/

声明：该文仅代表作者本人观点