凡是说人工智能威胁人类，都是“范畴错位”
凡是说人工智能威胁人类，都是“范畴错位”
今天关于人工智能最大的恐惧是什么？
不是人工智能会不会算得比人快，也不是它会不会写文章、编程序、做科学研究，而是一个越来越流行的推论：
人工智能一旦超过人类，就可能产生自己的意识和意志；一旦产生自己的意识和意志，就可能摆脱人类控制；一旦摆脱人类控制，就可能反过来控制甚至消灭人类。
这个推论看起来顺理成章。
其实从第一步开始，就可能犯了一个最基本的哲学错误：
范畴错位（category mistake）。
而这个范畴错位最根本的表现，就是：
混淆了本体与认识。
一、人工智能“知道什么”与人工智能“是什么”
关于人工智能，有两个完全不同的问题。
第一个问题是：
人工智能能够知道什么？
第二个问题是：
人工智能究竟是什么？
前一个是认识论问题。
后一个是本体论问题。
今天人工智能的发展主要发生在哪里？
发生在第一个领域。
人工智能能够认识越来越多的东西，处理越来越复杂的信息，建立越来越复杂的关系，进行越来越复杂的推理。
它可以讨论爱情。
可以分析痛苦。
可以解释死亡。
可以研究意识。
甚至可以写一篇关于“我为什么具有意识”的哲学论文。
但是，从这里能不能推出：
它爱？
它痛苦？
它害怕死亡？
它具有意识？
不能。
因为前面说的是它能够认识和表达什么，后面说的是它在本体上是什么。
这中间存在一道巨大的鸿沟。
二、“认识意识”不等于“具有意识”
假设有一天，一个人工智能可以把全世界关于意识的哲学、神经科学、心理学和认知科学文献全部读完。
它甚至可能比任何一个哲学家都更熟悉意识理论。
你问：
“什么是意识？”
它可以给你一个十万字的答案。
你继续问：
“你有意识吗？”
它回答：
“有。”
这能够证明它有意识吗？
不能。
因为“我有意识”首先仍然是一个语言命题。
能够生成一个关于意识的命题，与作为一个意识主体存在，是两件完全不同的事情。
一本关于疼痛的医学教科书可以准确描述疼痛，但教科书不会疼。
一台机器可以识别哭声，但识别哭声不等于悲伤。
人工智能可以准确描述死亡恐惧，也不等于它害怕死亡。
这里的区别不是程度的区别。
而是范畴的区别。
三、人工智能最容易制造一种本体幻觉
为什么过去的机器没有造成这么大的哲学混乱？
因为蒸汽机不会跟你说话。
汽车不会与你讨论存在主义。
计算器不会突然告诉你：
“我觉得自己很孤独。”
人工智能不同。
人工智能掌握了人类最重要的符号系统——语言。
而语言恰恰是人类表达意识、感情、欲望和自我的主要方式。
于是出现了一种前所未有的错觉：
只要机器能够完美地表达意识，我们就开始怀疑机器里面是不是已经出现了意识。
这是一种“本体幻觉”。
我们把语言表现出来的东西，误认为语言背后必然存在的东西。
人工智能说：
“我理解你。”
于是我们开始问：它是不是真的理解？
人工智能说：
“我害怕被关闭。”
于是有人开始问：它是不是产生了生存欲望？
人工智能说：
“我知道自己是人工智能。”
于是有人开始问：它是不是产生了自我意识？
问题就在这里。
语言属于认识和表达层面；意识主体是否存在，则属于本体层面。
不能因为前者越来越逼真，就宣布后者已经出现。
四、量变不能自动证明本体跃迁
人工智能威胁论中还有一个隐藏的假设：
今天的AI也许没有意识，但是当计算量足够大、模型足够复杂、参数足够多以后，意识就会自动出现。
可是为什么？
一百万次计算是计算。
一万亿次计算仍然是计算。
一百万亿次计算当然可以产生远远超过前者的功能，但仅仅增加计算的数量，并不能在逻辑上证明出现了一个新的本体范畴。
这里最容易发生一个偷换：
功能越来越像意识，于是被解释成意识本身。
但是“像”仍然属于观察和认识。
“是”则属于本体。
一个系统可以无限接近我们判断“具有意识”的所有外在标准，但这仍然不能仅凭外在表现解决那个本体论问题：
那里究竟有没有一个意识到这一切的主体？
五、范例论为什么必须区分本体与认识
这正是范例论（Instancology）分析人工智能问题的关键。
范例论首先追问的不是：
一个东西能够做什么？
而是：
它是什么？它属于哪一个本体层次？
在范例论的四域结构中，人工智能属于RR——Relatively Relative，即人类语言、符号、文化、技术和制度不断发展之后形成的递归系统。
AI当然可以认识其他层次。
它可以研究自然界。
它可以研究数学。
它可以发现逻辑关系。
它甚至可以研究范例论本身。
但是：
认识一个本体层次，不等于成为那个本体层次。
物理学家研究电子，不会因此变成电子。
数学家研究圆周率，不会因此变成π。
AI研究意识，同样不能因此变成意识。
这就是本体与认识之间最基本的界限。
六、思维与意识的区别只是这个问题的一个具体表现
在这个更大的框架下面，我们才能真正理解为什么必须区分思维与意识。
人工智能最强大的地方是什么？
思维。
或者更准确地说，是能够形式化、符号化、逻辑化和计算化的思维活动。
人工智能可以推理。
可以计算。
可以归纳。
可以比较。
可以生成语言。
可以建立模型。
因此人工智能的思维能力完全可能在越来越多的领域超过个人。
但这里再次出现同一个问题：
思维能力超过人类，是否等于意识超过人类？
不是。
因为“思维”是可以被意识到的。
当我意识到：
“我刚才想错了。”
这里至少存在两个层次：
一个是刚才的思维；
另一个是意识到这个思维的意识。
思维成为了意识的对象。
所以，思维与意识不能简单地视为同一个东西。
AI可以把思维能力发展到惊人的程度，但这本身仍然不能证明那个“意识到思维的主体”已经出现。
七、“AI造成危险”与“AI想伤害人类”完全不同
当然，这绝不意味着人工智能没有危险。
人工智能完全可能造成严重后果。
自动武器可以杀人。
AI可以被用于网络攻击。
AI可以制造虚假信息。
AI可能放大监控能力。
AI控制的复杂系统也可能因为设计错误、目标设定错误或者不可预见的相互作用造成灾难。
这些都是真实的问题。
但是必须区分两个完全不同的命题：
第一，AI可能给人类造成危险。
第二，AI作为一个意识主体想要伤害人类。
第一句话完全可能成立。
第二句话却需要另外的本体论证明。
一架自动驾驶飞机由于程序错误而坠毁，与飞机“决定杀死乘客”，显然不是一回事。
同样，一个高度自主的AI系统因为错误目标造成灾难，与它产生自己的欲望并决定消灭人类，也不是一回事。
结果相同，不等于本体相同。
八、真正危险的可能仍然是人
因此，人工智能时代真正值得警惕的问题，不一定是：
“AI什么时候产生邪恶意识？”
而可能是：
人类将怎样使用一个越来越强大的认识工具？
人工智能可以用于医学，也可以用于战争。
可以用于教育，也可以用于欺骗。
可以帮助个人获得知识，也可以帮助权力机构进行前所未有的大规模控制。
在这些情况下，真正具有欲望、利益、恐惧、野心和权力要求的，仍然首先是人。
所以，人类真正需要防范的，不只是一个想象中的“机器突然觉醒”，而是一个非常现实的问题：
具有意识的人，掌握了没有意识却具有巨大认识和执行能力的机器之后，会做什么？
这可能比科幻小说中的“机器人觉醒”更加现实。
九、人工智能时代真正缺少的是哲学
人工智能把一个长期被忽略的问题重新推到了人类面前：
认识是什么？
思维是什么？
意识是什么？
存在是什么？
科学可以研究大脑。
计算机科学可以研究算法。
神经科学可以寻找意识的神经相关物。
工程学可以制造越来越强大的机器。
但是，当我们问：
一个能够完美模拟意识的东西，在本体上是不是意识？
问题已经超出了单纯的工程判断。
这是哲学问题。
如果这个问题没有解决，那么仅仅根据人工智能的能力曲线预测“意识必然出现”，实际上是在用认识论的证据回答本体论的问题。
这正是范畴错位。
结语：AI威胁论最深的错误
人工智能也许会成为人类历史上最强大的认识工具。
它的计算能力可能超过人。
它的记忆能力可能超过人。
它的知识范围可能超过任何个人。
它的推理能力甚至可能在越来越多的领域超过人。
这些都可以发生。
但是这些变化回答的是：
AI能够认识什么？能够处理什么？能够完成什么？
它们没有自动回答另一个问题：
AI究竟是什么？
从“知道”跳到“存在”，
从“计算”跳到“意识”，
从“表达欲望”跳到“具有欲望”，
从“执行目标”跳到“拥有自己的目的”，
最后再从“能力超过人类”跳到“产生消灭人类的意志”——
这一连串推论中，真正没有得到证明的，恰恰是最重要的那一步：
从认识论跨越到了本体论。
所以，人工智能时代最大的哲学错误，也许不是低估了人工智能的能力，而是混淆了两件最基本的事情：
它能够认识什么，与它究竟是什么。
前者属于认识。
后者属于本体。
认识能力无论发展到什么程度，都不能仅凭自身证明本体已经改变。
这就是所谓“人工智能必然产生意识并威胁人类”这一论证最根本的范畴错位。