比尔·盖茨最近又发警告了。他在接受NBC采访时说，人工智能这东西，如果落到坏人手里，可能害死十亿人。注意，他说的是“可能”，不是“一定”。他觉得AI本身不太可能把人类灭掉，但要是被恶意利用，那威力比任何武器都大。
盖茨的意思很明确：政府不能光指望科技公司自己管自己，得立法。他说现在已经有AI代理出现失控事件了，OpenAI的奥特曼和Anthropic的阿莫代也在呼吁加强监管。盖茨还提到一个更具体的担心：坏人可能用开源AI工具来设计生物恐怖武器，这比自然爆发一场大流行病还危险。
其实盖茨一直是个“预警派”。2015年他就在TED演讲里说世界没准备好应对大疫情，后来新冠来了，他的话被翻出来，有人觉得他神了，也有人开始编阴谋论，说他早就知道、甚至策划了疫情，想靠疫苗赚钱。他2010年还说过，如果疫苗和医疗做得好，全球人口增长可能降低10%到15%。这话被一些人解读成“他想用疫苗减少人口”。盖茨自己说这些指控“疯狂”又“邪恶”。
说白了，盖茨这次的核心意思就一句：AI很厉害，但坏人用它会很危险，政府得赶紧管起来。
盖茨这波警告，听起来吓人，但仔细想想，他说的其实是个老问题的新版本：技术本身中性，关键看谁用、怎么用。核技术能发电也能造弹，AI也一样。十亿人死亡这个数字当然有耸动成分，但他点出的“恶意分子+最新AI工具”这个组合，确实值得警惕。
不过，盖茨呼吁政府立法监管，这话从他嘴里说出来有点微妙。一方面，他作为科技巨头，呼吁监管显得挺有责任感；另一方面，他本人就是全球公共卫生领域的大玩家，疫苗、疫情、人口这些话题跟他绑得太深，以至于他每说一句关于“全球风险”的话，都会被人拿放大镜看。阴谋论缠身， partly 是他自己早年言论留下的把柄，partly 是公众对亿万富翁干预公共事务的本能警惕。
真正的问题在于：AI监管到底该怎么管？管太严，创新被掐死；管太松，坏人钻空子。盖茨说不能靠科技公司自我监管，这话对，但政府立法往往滞后于技术发展。等法律出来，AI可能已经迭代好几轮了。
所以，盖茨的警告有价值，但别把他当先知。他更像一个嗓门大的提醒者：AI的风险是真实的，但恐惧本身也可能被利用。与其纠结“十亿人”这个数字，不如想想怎么建立真正有效的国际协作机制。毕竟，坏人用AI，可不分国界。
原文：toutiao.com/article/1877353352601612/
声明：该文仅代表作者本人观点