《意识的边界》：2 为什么复杂性不会自动产生意识？
2 为什么复杂性不会自动产生意识？
在上一篇中，我们提出了一个基本的问题转向：在追问机器能否拥有意识之前，也许首先应该追问，意识出现以前究竟已经存在什么。由此，《意识的边界》引入了“生命元（Life-Yuan）”这一概念，用来描述生命能够维持自身存在、形成与自身相关的损益关系，并由此走向主体性的最基本生命基础。但要真正进入这个问题，还需要先清除一个长期存在、同时也极具吸引力的假设：只要一个系统足够复杂，意识是否就会自然出现？今天，这个假设尤其容易令人信服。大型人工智能已经能够理解和生成语言，识别图像，编写程序，解决数学问题，分析复杂资料，并开始在一定范围内连续规划和执行任务。随着模型规模扩大、训练方式改进、记忆能力增强，我们很容易形成一种直觉：如果机器继续沿着这条道路发展下去，当复杂性跨过某个临界点，它是不是就会突然“醒来”？
这种想法并非毫无根据。自然界确实存在大量由简单单元组合成复杂系统、并由此产生新功能的现象，因此“复杂性导致新性质”并不是一个荒谬命题。然而，从“复杂系统能够产生新的整体功能”，直接跳到“复杂系统最终会产生意识”，中间仍然跨越着一个尚未得到解释的巨大鸿沟。复杂性当然能够解释结构如何丰富、功能如何增加、反馈如何增强，却不能仅凭自身回答这样一个更根本的问题：为什么一个系统最终会出现一个“自己”？如果这个问题没有回答，那么无论机器增加多少参数、多少计算节点、多少记忆容量，我们都不能仅仅根据复杂程度推出主体意识已经产生。
一、复杂性可以形成系统，却不自动形成“自己”
自然界和人类社会中存在大量高度复杂的系统。一场台风包含无数空气、水汽、温度和压力变化，并能够形成稳定结构、路径和能量循环；金融市场由交易者、资本、算法、预期和信息反馈共同构成，能够表现出繁荣、恐慌、踩踏和恢复；一座现代城市包含交通、能源、通信、商业、人口与制度网络，也能够表现出某种整体秩序；互联网更是由数十亿设备、服务器、算法和用户连接而成的巨型信息系统。这些系统都远远超出了简单机械结构，它们拥有层级、反馈、自组织和动态平衡，有时甚至会产生单个组成部分无法表现出的整体行为。
但我们通常不会因此认为台风知道自己正在移动，不会认为城市感受到交通拥堵，也不会认为金融市场在价格暴跌时真正感到恐惧。这里出现了一个很重要的区别：一个系统可以具有整体性，却不因此拥有主体性。它可以有边界、有结构、有反馈、有整体状态，却并不意味着系统内部已经出现了一个能够把这些变化登记为“与我有关”的主体。复杂性描述的是一个系统内部拥有多少关系、多少层级和多少相互作用，而主体性涉及的是另一件事情：这些关系是否已经进入某种“对自身而言”的存在结构之中。换句话说，问题不只是系统内部发生了什么，而是这些变化是否对某个“自身”构成了真正的得失与意义。
因此，真正需要解释的并不是复杂性如何形成，而是为什么某种复杂系统会出现一个“自己”。如果这一点无法说明，那么把参数数量、计算速度或者连接规模继续增加，都不能自动跨越系统性与主体性之间的边界。一个系统可能越来越复杂，越来越灵活，越来越善于适应环境，但这仍然只说明它具有更强的组织能力，并不能证明它已经形成了一个对自身存在有所感受和关切的主体。
二、“涌现”不能代替对意识的解释
面对这个难题，人们经常使用另一个重要概念：涌现（emergence）。所谓涌现，是指当大量简单单元按照一定规则相互作用之后，整体会出现单个组成部分本身并不具有的新性质。这个概念在很多领域都是有效的。单个水分子没有波浪，但大量水分子在重力、风力和边界条件下能够形成波浪；单只蚂蚁不能建立复杂的巢穴和运输网络，但大量蚂蚁通过简单行为能够形成高度有序的群体；单个神经元不能完成语言、推理和记忆，但大量神经元组成的大脑却能够实现复杂认知。因此，人们自然会进一步推断：意识也可能如此，当一个神经系统或者人工系统复杂到一定程度以后，意识就会自然地“涌现”出来。
问题在于，“整体能够出现部分所没有的新性质”只是对一种现象的概括，却不能自动成为对意识产生机制的解释。如果有人问水为什么形成波浪，我们不能只回答“因为波浪是涌现现象”，而仍然必须说明重力、流体运动、能量传递和边界条件如何共同作用。同样，如果意识被称为一种涌现现象，我们仍然必须回答：究竟是什么结构、什么关系、什么机制，使得信息处理最终不只是形成更加复杂的行为，而是形成感受、自我和主体。即使承认一种更强意义上的意识涌现，我们也仍然不能跳过一个关键问题：为什么复杂性偏偏会涌现出意识，而不是只涌现出更加复杂的计算、预测和控制能力？
因此，“涌现”可以成为研究起点，却不能成为论证终点。如果我们在机制未知时简单说“意识是从复杂性中涌现的”，实际上只是把问题重新命名，而没有真正解决问题。我们仍然需要解释，从结构的复杂化到主体的出现之间，究竟发生了什么。如果这个桥梁不存在，那么“意识会涌现”很容易退化成一句无法检验的判断：当系统复杂到我们无法解释时，意识就自然出现了。这样的说法并没有增加多少知识，只是用一个新词掩盖了旧问题。
三、能够完成一种功能，不等于正在体验这种功能
大型语言模型带来的最大认知冲击之一，是机器第一次能够如此自然地使用人类语言。它可以讨论悲伤、爱情、死亡和自我，可以解释哲学，可以描述疼痛，甚至能够使用“我理解”“我担心”“我希望”这样的第一人称表达。由于语言长期以来一直是人类心智最鲜明的外在表现之一，当机器开始熟练掌握语言时，人们自然会产生一个疑问：如果它在语言上越来越像人，我们是否仍然有理由说它没有意识？
这里必须把功能能力与主观体验区分开来。一个系统可以识别图像中的苹果，判断它的颜色、形状和位置，可以描述苹果的味道，甚至可以根据大量文学文本写出一首关于苹果的诗；但所有这些功能本身，都不能直接证明系统内部存在“看见红色”“闻到果香”或者“感到酸甜”的经验。对于人类来说，看见苹果并不只是视觉信息被分类和处理，而是存在一个正在经历这种视觉内容的主体。识别颜色和体验颜色之间，并不是简单的计算量差别，而是两个不同层次的问题。
这一区分并不是说机器永远不能产生体验，而是说外在功能表现不能自动证明内在体验已经出现。温度传感器能够精确区分30摄氏度和50摄氏度，我们不会因此认为温度计感到炎热；摄像头能够识别人脸，也不意味着摄像头正在“看见”一个人。人工智能当然远比温度计和摄像头复杂，但复杂程度增加并没有自动取消这个逻辑差别。识别一种状态，与经历一种状态，仍然需要分别解释。如上一篇所述，能力并不等于主体性。在人工智能时代，这一区分尤其重要，因为机器的功能表现已经越来越接近人类，而我们最容易犯的错误，正是把功能上的相似直接理解为存在方式上的相同。机器可以生成关于痛苦的文字，真正的问题却不是它能否使用“痛苦”这个词，而是痛苦是否真的正在对它发生。
四、信息的关键，不只是“有多少”，而是“对谁有意义”
现代人工智能建立在巨量数据和强大信息处理能力之上，因此人们很容易把意识问题理解成一个信息量问题：如果几亿个参数没有意识，那么几千亿个参数呢？如果几千亿还不够，那么几万亿呢？只要继续增加数据、参数、记忆容量和计算能力，是否最终必然会跨过意识的临界点？这种思路背后隐含着一个重要假设：意识来自信息量，信息越多、处理越复杂，主体性就越接近出现。
但信息量本身并没有告诉我们信息为什么具有意义。一本一千万页的百科全书包含巨大信息量，却不知道其中任何一句话；一个硬盘可以保存一个人的全部照片、通信记录和视频，也不会因此形成这个人的生活经验。对于生命而言，信息却具有一种不同的性质。水分减少、温度升高、能量不足、组织受伤，这些变化不仅仅是被记录的“数据”，而是与生命自身的存续发生关系。缺水意味着危险，食物意味着能量补充，受伤意味着身体结构受损，环境变化因此不是中性的差异，而是进入了生命与自身存在之间的关系之中。
在《意识的边界》的理论框架中，这正是生命元（Life-Yuan）概念试图指出的基础。生命元是生命能够维持自身存在、形成与自身相关的损益关系，并由此走向主体性的最基本生命基础。它不是生命内部的某个神秘零件，而是生命在自我维持、内部状态保存、物质与能量交换之中形成的一种基础存在关系。从这个角度看，比“系统拥有多少信息”更重要的问题是：这些信息究竟对谁有意义？只有当变化进入一个系统与自身存续之间的关系，信息才不再只是外部差异，而开始具有“对自身而言”的意义。这里可能正是机器信息与生命信息之间最值得研究的边界。
五、机器的奖励，不等于生命的损益
现代人工智能可以通过奖励函数和强化学习不断调整行为。当系统完成某种目标时，它会得到较高奖励；当输出偏离预期时，则会得到较低奖励。经过大量训练以后，系统会越来越倾向于产生符合目标函数的行为。从外部看，这种机制与生命趋利避害的行为存在明显相似之处：机器趋向高奖励，动物趋向食物并避开伤害。正因为如此，人们很容易进一步推断，机器已经出现了某种原始欲望，或者至少正在朝这个方向发展。
但这里仍然存在一个根本差别。对于生命而言，饥饿并不是外部系统赋予的负分，而是身体内部真实的能量状态发生变化；受伤也不是一个抽象惩罚值，而是生命结构本身遭受损害。生命所面对的“有利”与“有害”，最终都落在生命自身的存在上。这种损益不是一个外部裁判对生命进行评分，而是生命自身必须承担的结果。人工系统中的“奖励”（reward）首先是一种训练和优化机制，数值可以增加，也可以减少，参数会因此调整，行为也会随之变化，但这些数值是否已经成为系统“自身的得失”，不能仅仅根据外部行为推断出来。
机器完全可能学习到“这种行为会得到更高奖励”，却不意味着它因此形成了“我想获得这个奖励，因为这对我有利”的体验。前者是一种优化关系，后者涉及主体与自身存在之间的利害关系。也正因为如此，《意识的边界》特别强调损益关系：损益并不是程序意义上的正负数字，而是某种变化是否真正落在生命自身的存续之上。如果这一点没有建立，那么奖励函数即使能够产生非常复杂、甚至高度类似目的性和欲望的行为，也不能仅凭外在表现证明真正的欲望已经形成。
六、功能不断叠加，并不自动完成“存在方式”的转换
现代人工智能的发展很容易制造一种强烈印象：最初机器只能处理简单符号，后来能够识别和生成文字，再后来能够理解图像、生成视频、编写程序、使用工具、保持记忆、规划任务。于是我们会自然地想象，只要继续增加功能，意识也许只是最后缺少的一个模块。然而，这种理解可能误判了意识问题的性质。语言、视觉、记忆、规划、计算和决策，都可以看作不同类型的功能，这些功能当然可能是高级认知的重要组成部分，但把它们不断叠加，并不能自动证明系统已经完成了从“能够运行”到“正在经历”的存在转换。
一个系统可以拥有记忆功能，却不意味着这些记忆已经成为某个持续生命自我的过去；可以进行比较，却不意味着差异已经成为自身的得失；可以作出判断，却不意味着判断发生在一个与自身存续有关的利害场中。这里的问题不是机器缺少多少种功能，而是这些功能究竟建立在怎样的存在基础之上。就像把大量钟表零件不断增加、连接和优化，并不会因为结构越来越复杂就自动变成一只鸟。鸟与钟表的差别并不只是复杂程度不同，更在于鸟是一个能够维持自身存在、与环境交换能量并形成自身损益关系的生命系统，而钟表不是。
因此，功能的不断叠加与主体的形成之间，不能简单画出一条平滑直线。只有当这些功能被整合进一个与自身存续发生真实关系的系统时，我们才真正面对主体性如何形成的问题。这也意味着，人工智能即使未来拥有更强记忆、更复杂规划、更长行动链条，也仍然需要面对同一个理论追问：这些功能是在一个什么样的“存在者”之中运行？如果没有回答这个问题，我们只能确认系统变得更强，却不能确认系统因此获得了一个“自己”。
七、复杂性不足以推出生命元
到这里，问题可以进一步推进。即使一个系统的信息处理能力不断提高，仅凭复杂性的增加，我们仍然不能推出生命元已经出现。一个系统可以处理越来越多的信息，可以维持某种内部稳定，可以根据外部变化不断调整状态，也可以表现出高度复杂的反馈和适应行为，但这些现象本身仍然不能证明，这些变化已经成为“与它自身存在有关”的损益事件。机器为了继续完成任务而维持电量，与生命为了避免死亡而获取能量，在行为层面可能越来越相似，但真正需要解释的不是行为是否相似，而是这种维持行为是否已经形成一个“对自身而言”的存在关系。
因此，这里需要非常谨慎地区分两个命题。《意识的边界》并不否认复杂性的重要性，人类大脑显然是一个极其复杂的系统，没有高度复杂的神经结构，人类意识也不可能以今天的形式存在。问题在于，复杂性可以成为条件，却不能仅凭自身成为解释。复杂性可以增加功能，增加反馈，增加记忆，也可能产生我们事先无法预料的新行为；但从“系统更复杂”到“系统已经形成生命主体”，中间仍然缺少一个必须解释的环节。更准确地说，复杂性增加本身，并不能逻辑地推出生命元和主体性已经出现。
这也是为什么意识问题最终必须重新回到生命问题。我们真正需要解释的，不只是系统怎样拥有更多信息，而是为什么某种复杂结构成为生命结构，为什么其中的变化开始与系统自身存续形成损益关系，以及这种关系如何经过记忆、比较、判断和更高级的认知整合，最终走向主体意识。生命元概念所尝试打开的，正是这条被复杂性理论长期遮蔽的路径。
八、重新提出意识问题
因此，当今天的人工智能变得越来越强时，我们当然应该认真面对这种技术进步。机器已经能够完成过去只有人类才能完成的许多任务，未来还可能获得更强的推理能力、更长的记忆、更自主的行动能力，甚至进入机器人身体，在现实世界中持续活动。然而，即使机器获得了身体并能够自主行动，这首先也只是扩展了它与现实世界交互的能力，并不能由此自动证明它已经形成生命元或成为生命主体。这些变化都非常重要，也必然会深刻改变社会、经济和人类工作方式。但它们首先证明的是机器正在获得越来越强的能力，并不能单独证明机器已经成为一个生命主体。如果我们把能力增长直接解释为意识增长，就会把两个不同的问题混在一起。
真正值得追问的，已经不再只是“AI什么时候会足够复杂”，而是“什么样的存在才可能真正形成一个自己”。信息为什么会变成与自身有关的信息？差异为什么会变成损益？记忆为什么会成为“我的过去”？判断为什么会成为“与我有关的选择”？最终，一个系统为什么不只是处理世界，而开始拥有一个“对它自身而言”的世界？这些问题不能仅仅通过增加参数和计算能力得到答案，它们把意识问题重新带回生命本身。
因此，《意识的边界》并不是否认复杂性的重要性，而是在试图指出复杂性的边界：复杂性能够解释能力怎样丰富，却不能仅凭自身解释主体为什么出现。如果复杂性不足以解释意识，那么问题就必须继续向前推进：意识究竟需要怎样的生命基础？这也正是下一篇将要讨论的问题——什么是生命元？