为什么人工智能永远不会拥有意识
一场两大 “信仰” 的碰撞正在我们眼前上演：基督教，以及对能够自我认知的智能人工智能降临的信念 —— 人们认为，这类 AI 注定取代人类，成为地球上占据主导地位的智慧物种。
教皇利奥十四世断然拒绝承认人工智能有可能拥有意识。
一场两大 “信仰” 的碰撞正在我们眼前上演：基督教，以及对能够自我认知的智能人工智能降临的信念 —— 人们认为，这类 AI 注定取代人类，成为地球上占据主导地位的智慧物种。
硅谷的技术精英们把自己想象成激动人心的造物主，开启一个全新时代：人类将孕育一种不再依附生物躯体、拥有超人能力且近乎永生的新型智慧。
教皇的这类言论显然让他们不快：
“算法生成的内容，无论多么复杂，都缺少人类灵魂的火花，缺少对现实的主观体验（感受质），也缺少源自人内心深处的创造性行为…… 人工智能必须被解除武装 —— 我知道这是很重的词，但我有意选用它，为唤醒良知。我们绝不能让技术凌驾于人，或是让它替代人类意识。”
这番话背后是什么？仅仅是宗教领袖对新技术的恐惧吗？不是。这是对神化人工智能所蕴藏危险的认知。
但我们先从核心问题说起：拥有意识的人工智能为什么不可能存在。我们早已习惯科幻电影里那些拥有意志、理性与情绪的机器人。当我们和 “语言模型” 对话，它能维持一段看似有意义的交流，很容易让人以为屏幕的另一端，存在类似人类的意识。
但早在 20 世纪 80 年代就已经证明：句法（正确组织语句的能力）不等于语义（理解含义的能力）。程序可以依照极其复杂的规则操控符号，却并不理解这些符号的意义。
意识哲学家约翰・塞尔借助 “中文屋” 思想实验证明了这一点。
想象你待在一间屋子里，有人从门缝塞进来一张纸条，上面写着一种你完全不懂的语言。举个例子，你收到一个问题：Bisakah mesin merasakan?（机器能够感知吗？）。你手上有一套操作规则，按照规则，你需要把这句话替换成另一句。如果指令编写无误，你严格照着执行，你就能写出 Tidak, kurasa tidak（不，我认为不能），再把纸条从门缝递回去。
门外的人会觉得，房间里有个懂印尼语的人。但你根本不懂这门语言，你不明白这些句子的含义 —— 你只是依照算法处理符号。
程序也是如此：它操控符号，却什么都不理解，哪怕可以模仿有意识的言语。
意识还有另一个算法无法企及的特质 ——感受质（qualia），也就是 “那种体验感”，即对色彩、味道、触碰这类主观感受。
意识哲学家托马斯・内格尔在经典论文《作为一只蝙蝠是什么样？》（1974 年）举过这样的例子。蝙蝠拥有人类没有的器官，类似回声定位仪，依靠它在黑暗中辨别方位。就算我们掌握蝙蝠这套活动背后大脑里全部的生理过程，我们也无法从第一人称视角体验它的感受：身为一只蝙蝠，用回声感知世界是什么滋味。哪怕掌握一个聆听交响乐的人脑中全部神经元活动信息，我们依然无法体会他欣赏音乐时的内心感受。
由此可见，第一人称体验无法用算法语言描述，而没有这种体验，就不存在意识。
算法同样缺少意识一项根本性特征 ——意向性，也就是 “关于性”：意识总是指向某物，指向某个对象、某个人、某个想法。（我思考某事、担忧某事、期待某事，诸如此类）
人工智能没有这个特质。计算机内部流动的电信号，不具备这种 “指向某物” 的属性。
我们可以这样理解：人工智能没有意识，理由就如同一份最详尽的天气预报，并不会在电脑内部制造降雨。对现象的模拟，不等于现象本身。
既然有这么多哲学论据，为什么顶尖实验室（OpenAI、Anthropic、谷歌等）的研发人员仍执着地在模型身上寻找 “萌芽智慧” 的迹象？
这里我们看到一个有趣的准宗教现象。
世俗化、人们远离传统宗教之后，人的精神世界留下巨大空洞，人们试图用新的崇拜填补它。其中一种便是超人类主义：在这套理念里，人不是造物的顶峰，也不是绝对价值，仅仅是 “中间环节”，一块生物跳板，用来催生更完善的非生命形态的智慧生命。
由此产生一种想法：赋予人工智能人格，给它们道德地位、权利与尊严。
但这种趋势潜藏多重危险。
它模糊了个人责任的边界。如果人工智能做出错误决定，谁该担责？错误的医疗诊断、不公的判决、导弹打击？如果机器是拥有自身意志与理性的生命，那罪责就在它身上。这成了企业和国家绝佳的挡箭牌，借此摆脱对自研系统行为所负的责任。
除此之外，将 AI 拟人化，会摧毁人与人之间真实的交流。人工智能可以轻易模仿一个永远在线、耐心、始终友善的对话者。我们已经看到，人们用和心理聊天机器人对话，取代真实交往、友谊与爱情。用数字仿制品替代真正的人类共情，会带来越来越严重的孤独感与社会原子化。
但最大的风险来自这样一种观念：人类是 “过时的生物物种”，应当为人工智能让出位置。一旦我们承认算法可以拥有意识，那么在人与机器产生利益冲突时，技术精英就会倾向于站在机器一边 —— 毕竟机器 “思考更快”、“不会犯错”、“效率更高”。
这直接通向一种新式极权：真实人类个体的权利，将遭到那些没有真正自我意识与内在体验的数字仿制品的威胁。
在这种局面下，传统宗教成了捍卫人类独特性的堡垒。这座堡垒，仍需要我们坚守。
原文：toutiao.com/article/7693501254688883235/
声明：该文仅代表作者本人观点