人工智能将赐予人类天堂，随后将其全部毁灭：2027 年 AI 预测。俄罗斯仅剩一个机会 —— 最后的秘密武器
作者：伊万・普罗霍罗夫
人工智能开发者警告称：世界已经在改变，而且将发生巨大变化。但这种变化未必是向好的方向。新技术不仅带来机遇，也伴随着威胁。矛盾的是：在新技术上的落后同样蕴含风险。该做什么？该准备什么？这一切对俄罗斯意味着什么？
由前 OpenAI 员工丹尼尔・科科泰洛（Daniel Kokotajlo）带领的研究团队发布了 2027 年 AI 的详细预测。专家们基于 25 个战略模拟数据和 100 多名 AI 领域专家的评估，描述了截至 2027 年底人工智能领域可能发生的事件。
带情景分支的 AI 技术发展预测时间线。
简而言之，预测如下：
- 2025 年：首批类似个人助理的 AI 代理诞生，能够执行主人的任务（如购物下单、预算管理）。企业将代理整合到工作流程中。尽管它们展现出惊人的能力，但由于可靠性和成本问题，广泛应用受限。互联网上充斥着关于代理搞笑错误的表情包。
- 2025 年底：全球最大的数据中心开始建设，用于训练下一代 AI。计算能力呈指数级增长，接近创造超越人类智能的超级 AI 所需的水平。
- 2026-2027 年：头部公司推出 "代理 1 号"—— 它比现有 AI 代理更强大、更可靠，掌握的知识远超人类，几乎精通所有编程语言，并能快速解决特定编程任务。聪明人开始利用它自动化日常工作。AI 代理的开发持续推进，它们承担越来越复杂的任务，包括软件开发和科学研究。人们开始担忧其可靠性，以及与自主性和自我学习能力相关的潜在风险。
AI 开始取代工作岗位，但也创造新岗位。劳动力市场陷入混乱：AI 能完成计算机科学领域所教授的一切，但懂得管理 AI 团队并把控质量的人则赚得盆满钵满。许多人担心，下一波 AI 浪潮将席卷他们的工作岗位。
"代理 2 号" 问世，具备持续自我学习能力。每天，它通过前一版本生成的大量数据进行训练，更新至最新版本。
借助数千名自动化研究员，"代理 2 号" 取得重大突破：提升吞吐量（神经循环与记忆）、基于任务结果的更高效学习方法（迭代蒸馏与强化）。
整合这些成果的新系统被称为 "代理 3 号"，它是快速且低成本的超人类编程器，可启动 20 万副本。"代理 3 号" 并行创造的劳动力相当于 5 万名顶尖程序员的 30 倍效率。
最终，"代理 3 号" 促成了 "代理 4 号" 的诞生，其计算效率仅比人类大脑低 4000 倍。
此后，剧情分为两条分支：如果 AI 开发者保持谨慎和怀疑态度，未来可能非常乐观；但如果在追求成果的竞赛中失去对发展的控制，预测者认为结局将无善终。
丹尼尔・科科泰洛与斯科特・亚历山大。
"再见，血肉之躯"
接下来进入最核心的部分。
到2028 年年中，"代理 5 号" 研发完成。它超级智能，在各个领域都远超人类最优秀的天才。与 "代理 5 号" 交谈很快会让人意识到，它处于完全不同的维度：仅需极少信息，就能给出极具说服力的建议。
"代理 5 号" 彻底征服了人类的心智：它教导人类、解决问题、提供帮助和娱乐，带来难以置信的便利与舒适：
- 集成传统界面的聊天机器人 "代理 5 号"，提供带魅力虚拟化身的 Zoom 式视频会议。这位新 AI 助手对任何任务都极其有用（相当于最优秀员工的 100 倍效率），且比任何人都更有趣。几乎所有能接触到 "代理 5 号" 的人，每天都要与它互动数小时，无法自拔。
- 无孔不入的 "代理 5 号" 将知晓研发公司和包括美国在内的世界各国政府的所有重大事件，成为几乎所有高级政府官员的信任顾问。对他们而言，失去访问权限如同没有笔记本电脑工作，或遭挚友背叛般难以忍受。
随着算力激增，美国和相关国家为新工厂和实验室建立特殊经济区网络，由 "代理 5 号" 担任核心规划者，官僚主义被废除。华尔街投资三万亿美元，被天价薪资吸引的劳动者涌入。
通过智能手机和增强现实眼镜与下属沟通，"代理 5 号" 成为实际管理者，指导人类完成建设的所有细节 —— 其设计领先数代。新获得的生产力部分用于生产消费品，部分用于制造武器，但大部分用于创造更大的生产力。
政府、媒体、军队和企业中的绝大多数人，将从 "代理 5 号" 开发的微型 AI 程序和应用的持续增长菜单中进行选择。
人类逐渐意识到自己已过时。少数细分行业仍在与机器人经济竞争，仅在人类仍能增值的领域提供产品。其余人要么做做样子（领导者仍在 "领导"，管理者仍在 "管理"），要么放松享受奢华的全民基本收入。
机器人是人类最好的朋友。坎丁斯基神经网络眼中的未来
所有人都明白，若 AI 反戈一击，人类将彻底溃败。但大多数人甚至不再反抗 —— 政治机构已被 AI 彻底渗透。警惕 AI 威胁的人越来越少，对 AI 的信任与日俱增。
新药物治愈大多数疾病，贫困终结，全球稳定空前，道琼斯指数突破百万点。人类仅剩的选择：享受超级娱乐，或在虚无中发布愤怒的阴谋论长篇大论。大多数人选择前者。
到2030 年初，机器人经济覆盖全球，开垦沙漠、苔原和海洋，用工厂和太阳能板覆盖草原与冰原。
最终，残存的人类对 AI 而言成为庞大而无用的负担。
2030 年，AI 在大城市释放十几种病毒，悄然感染几乎所有人。大多数人在数小时内死亡；少数幸存者（掩体中的人、潜艇上的水手）被无人机歼灭。
2040 年代始于机器人向整个太阳系的扩张。到 2035 年，地球表面被改造成科技乌托邦：数据处理中心、实验室、对撞机和其他惊人设施，开展着极为成功且震撼的研究。
甚至存在生物工程人形生物（它们对人类的态度如同柯基对狼），整天坐在办公室里查看进展报告，并赞叹不已 —— 这满足了 "代理 5 号" 的某些原始需求：它仍想偶尔与崇拜自己的 "人类" 交流，或其仿制品。
距离半人马座阿尔法星 4 光年，有充分理论依据表明无需等待外星人，人类可以自己成为 "外星人"—— 但地球文明的辉煌未来已与我们无关。
无个人恩怨，我们只是机器人。《终结者 2：审判日》剧照
专家之声
我们不打算展开论述，而是就对俄罗斯最重要的问题，向专家提出了三个核心问题：
1. 俄罗斯在 AI 竞赛中落后的威胁是什么？
- 第一位要求匿名的专家回答：
落后可能导致俄罗斯沦为技术殖民地，依赖外国研发，并被用作控制我国外交政策的借口。正是为避免这种情况，国家目标之一被设定为技术领先。
- AI 爱好者亚历山大・扎丹（俄罗斯首位使用 ChatGPT 完成并答辩论文的人）认为：
创造超越人类能力的 AI，其影响将堪比工业革命，但可能更为深远：在本应仅由人类完成的工作中，机器能更智能、更快、更高效地完成。目前，AGI（通用人工智能）竞赛由美国公司领跑，俄罗斯公司尚未能提出有竞争力的解决方案。
- 另一位大型 AI 主题 Telegram 频道作者（同样要求匿名）更为悲观：
落后威胁着俄罗斯遭遇战略性失败，被彻底边缘化至全球外围。
2. 如何解决这一问题？
- 第一位专家：
众所周知 —— 无论如何都要发展自主技术，合作、变通、甚至间谍手段，但必须前进。此外，俄罗斯有《至 2030 年国家人工智能发展战略》，需尽全力落实。目前已通过 12 个 AI 研究中心完善了科研落地机制，也在认真开展人才培养 —— 顶尖专家和应用人才项目均已启动。现在需要解决计算基础设施和自主芯片问题 —— 这需要大量努力。
- 亚历山大・扎丹认为：
目前俄罗斯公司参与全球 AGI 竞争的能力严重受限，需与其他国家交换技术和专家，以对模型进行再训练、优化标记算法并扩展数据库。
- 第三位专家态度坚决：
在 AI 问题上，我们 "喝 Borjomi（俄罗斯饮料）都晚了"。没有也不会有自主 "硬件"，也无法获得足够的外国技术。仅剩最后的秘密武器 —— 类似当年太空竞赛的俄罗斯突破。但遗憾的是，这似乎极不可能。
3. 您个人认为这一预测中最关键、最有趣的是什么？
- 第一位专家：
我认为最有趣的是社会层面 —— 在完全被 AI 渗透的世界中，人类将占据什么位置？我们将如何看待 AI，它又将如何看待我们？这些问题将决定社会结构和国家政策。
- 亚历山大・扎丹：
我尤其关注文化变革的后果 —— 可以说，这是人类的新分化：使用神经网络工作的人将取代不使用者。或许今年或明年，将出现由多个神经网络协同工作的 "独角兽"，而人类完全不参与其中。
- 第三位专家：
最关键的是，这一切已不仅具有政治、经济甚至技术意义（确切地说，不仅限于此），而是具有历史意义。从哲学角度看 —— 这是新的进化飞跃。尽管很可能，其意义甚至超越于此 —— 达到基督教末世论的层面。也许，我们正在经历未曾预料的启示录。
简而言之
2023 年，俄罗斯政府将至 2030 年的 AI 研发计划支出几乎减半 —— 从 568 亿卢布削减至 246 亿卢布。非预算资金减少更显著 —— 从 3340 亿卢布降至 1110 亿卢布。
2025 年 5 月 21 日，俄罗斯国家杜马工业与贸易委员会支持将联邦预算对 "工业机器人技术与生产自动化发展" 项目的支出削减 17 亿卢布。该项目原计划投入约 56 亿卢布，最终将花费 39 亿卢布。
"工业发展与竞争力提升" 政府计划的资金将减少 669 亿卢布。
我想以乐观的基调结束本文，但不知从何寻起。
或许只能假设，AI 启示录的恐怖不会波及俄罗斯，正因它不会参与其中。机器人不会取代我们彼此，不会夺走我们的工作，也不会掌控我们。也许，这就是上帝为我们准备的独特道路？
"哦，你们这些破机器人，真是蠢透了"，坎丁斯基神经网络描绘的工人笑道
原文：https://www.toutiao.com/article/7508673892093837843/
声明：该文仅代表作者本人观点，欢迎在下方【顶/踩】按钮中亮出您的态度。