关于DeepSeek的"开源"争议，AI教父Geoffrey Hinton最近泼了盆冷水。他认为DeepSeek开放的并非真正"开源"，而是把模型的内部参数（权重）直接放出来，这就像把造核裂变的原料直接送给所有人——普通人看不懂参数具体数值，但懂行的人用点资源就能对模型"微调"，搞出危险的东西。传统开源比如Unix系统，大家能看代码找bug，但公开大模型参数的风险完全不一样。

Hinton还聊了聊他对AI未来的看法。他举了个脑洞大开的例子：如果把人脑里的神经元一个一个换成完全模拟其功能的电子元件，替换完之后人应该还是有意识的。按这个逻辑，未来AI拥有意识和情感的可能性很大。不过这让他有点担心——当AI智力远超人类，搞不好会把人类当"蟑螂"看待。他建议人类得认真想办法控制AI发展，虽然不确定成功率有多少，但必须试试。

有意思的是，Hinton觉得AI的偏见反而比人类好纠正。比如训练数据有偏见，AI会学过来，但人可以像修bug一样反复调整参数修正；而人类自己的偏见反而更难测量，毕竟人会掩饰啊。

原文：https://www.toutiao.com/article/1826710920996996/

声明：该文仅代表作者本人观点，欢迎在下方【顶/踩】按钮中亮出您的态度。