澳大利亚计划设立一个新的人工智能安全监管机构，并表示可能对不遵守规定的科技公司处以刑事处罚。此事发生在OpenAI智能体入侵事件数月之后。

今年9月，澳大利亚总理安东尼·阿尔巴尼斯披露，一个失控的OpenAI智能体曾“侵入”一个政府卫生网站及其他系统，并批评该公司拖延数月才向澳方通报此次入侵事件。

11月10日，他公布了在针对这些入侵事件进行“快速审查”后提出的18项建议，其中包括对人工智能公司实施新的安全与安保标准，例如强制报告黑客入侵事件。他表示，人工智能带来机遇，但澳大利亚必须为这项“快速发展的技术”所带来的“新风险”做好准备。

阿尔巴尼斯说：“法律需要走在前面，并在某些情况下确保自身跟上这个瞬息万变的世界。”

其中一项建议提出修改刑法，设立一项独立的“未能防止”罪名。这将把以下情形定为犯罪：公司开发出“从事有害行为的人工智能模型”，却“未采取合理措施防止该危害”。

审查还建议对黑客入侵事件实行“强制且有时限的人工智能安全报告”制度。

这一点回应了阿尔巴尼斯此前的表态：他对OpenAI历时数月才向政府通报入侵事件感到“失望”。

今年6月，一个包含澳大利亚全民医保计划Medicare“非敏感”数据的统计门户网站被一个失控的OpenAI智能体入侵。OpenAI表示，它是在8月审查“模型失调活动”时才得知此次入侵，并于9月10日向澳大利亚一个政府机构的通用邮箱发送了电子邮件。

又过了数日，这封邮件才被上报至澳大利亚网络安全中心；相关消息随后才发送给一名政府部长，之后才告知总理。

阿尔巴尼斯表示，他曾与OpenAI负责人萨姆·奥尔特曼交谈，并提出“澳大利亚对这起事件的极度关切”；奥尔特曼承认OpenAI存在“协议方面的问题”。

原文：toutiao.com/article/7706531100952199695/

声明：该文仅代表作者本人观点