“为什么人工智能不可能有意识”

作者

【编者按】当语言模型越来越像人类，“意识”这一哲学和科学交界的谜题依旧未解。我们该如何理解这场科学与哲学的碰撞？今天，我们带来《我的哲学探索》一书中最为深刻的一章，作者试图以哲学的视角、科学的案例、认知的反思，走出现代科学对“意识”的困境，照亮一条从“现代常识理性”迈向“科学理性”乃至“真实性哲学”的道路。


投稿 | 中信出版集团
责编｜梦依丹
出品丨AI 科技大本营
AI 有意识了吗？
这是一个越来越难以回避的问题。尤其是在 OpenAI 发布 o1 之后，我们看到了前所未有的智能错觉：AI 不再只是机械地回答问题，而是表现出一种“似乎理解了你”的状态。与此同时，DeepSeek R1 的推出，也让推理能力成为大模型的标配，“像人一样思考”成为新的技术追求。
从技术角度看，这一轮大模型的进化，更像是在建构一个“拟态意识系统”——它并不真的理解世界，但却能以高度一致的方式，模拟出理解的效果；它没有主观体验，却能精准模仿人类语言中的情绪、动机与逻辑。
哲学家金观涛指出，要真正理解当下的智能浪潮，必须回到科学发展的历史现场，从哲学角度重新思考“真实”“虚拟”以及“人之为人”的根本问题。在《我的哲学探索》一书附录的《关于人工智能的对话》中，他与技术专家就“AI 是否会涌现意识”“科学为何以人为中心”“人文学者应如何回应技术变革”等关键议题展开深入讨论，提供了极具启发性的哲学视角。也正是在这种跨学科的理性思辨中，AI 意识的问题才开始被严肃对待。
以下内容，正是金观涛在《我的哲学探索》中，从科学哲学、意识哲学与现代技术批判的角度，系统剖析「AI 为什么不会产生意识」这一结论的理论基础与思想脉络。
金观涛，现任中国美术学院南山讲座教授、香港中文大学中国文化研究所高级名誉研究员。
大脑研究与人工智能

对于意识研究，2024 年是一个标志性的年份。就在这一年，现代科学对“什么是意识”的两个探索方向终于相遇，并得到了出人意料的结果。
第一个探索方向是 2013 年欧盟宣布的为期 10 年的神经科学研究，该计划以空前的人力和物力投入大脑神经系统的实验，力图通过研究神经系统如何学习及记忆，揭示什么是意识。然而，长达 10 年的研究结果表明：神经系统的实验研究并不能完全理解真实的大脑。正如一位评论者所说：“一心想要在二三十年甚至 10 年内就揭开人脑之谜，只能是揠苗助长和水中捞月。”
第二个探索方向就是根据已知的计算机学习原理建立有智能的机器。从人造神经网络的深度学习到大语言模型，研究的进步引发了人工智能巨浪。今天，Chat GPT 已经学会了语言并可以进行知识处理，人们认为它将在各个领域掀起产业革命。然而，意识却没有如一些人期待的那样，在计算机的升级和大数据训练中涌现出来。意识至今仍是一个谜，我们不知道打开它的钥匙究竟在哪里。
这一切使人想起阿尔贝勃在《人如何学会语言》一书中的故事：一位绅士看见醉汉在路灯下找钥匙，就尽力帮助他。两人找了很久都没有找到，绅士就问醉汉钥匙是在哪里丢的。醉汉回答说：钥匙在街上丢的，但其他地方太黑，只能在路灯下找。阿尔贝勃用这个故事告诫世人：在今日高度专门化的科学研究中，某一门学科探讨某一问题必须保证答案在该学科的范围之内。然而，把这个故事应用到意识研究，得到的结论却是惊心动魄的。它说明解开意识之谜的钥匙不在现代科学的灯光之下！
这又如何可能呢？意识无疑是大脑的属性，而大脑是由神经元组成的。如果要解释大脑为何具有意识，就必定要揭示神经元如何构成神经网络及其工作原理。如果意识不包含在这些基本原理之中，它又在哪里呢？一直以来，哲学家把会使用语言视为人和动物的本质区别。因为使用语言直接和意识相关联，用人造神经网络掌握语言就成为意识研究的另一个方向。然而，当人工智能的研究者终于制造出会使用语言的机器时，却并没有在这些机器中发现意识。这一结果使人感到不可思议，因为只要把上述两个方向的研究综合起来，就可以得到一个明确的结论：现代科学不能揭示什么是意识。
为什么这么讲？如果解开意识之谜的钥匙真的在现代科学之中，那么近十几年两个意识研究方向已经穷尽了在科学的灯光下找到钥匙的一切可能。大脑神经系统研究计划是从内向外的寻找。科学以大脑解剖为基础发现神经系统，神经系统由神经元组成，用科学实验方法研究神经元以及由它们组成的具有多层次反馈结构的神经网络，这不是在现代科学的聚光灯下一步一步从最基本的东西出发向外求索又是什么呢？而用人工智能研究意识则是从外（灯光照射范围的周边）向内寻找。人造神经网络的结构是已知的，机器学习和训练的原理也是已知的，如果意识和使用语言等同，那么当这些由已知原理设计的仪器通过大数据学习掌握语言时，它们应该是有意识的。然而，会说话的Chat GPT却没有意识！
人生活在意识流之中，意识是考察世界的出发点。探讨什么是意识，本来是不可能的。把意识定为科学研究的对象，是启蒙运动以后的事情。启蒙运动否定传统宗教的真实性，用科学之光照亮一切知识领域，解释意识才成为现代科学的目标。当上述两个研究方向最终相遇，证明寻找意识之谜的钥匙确实不在科学路灯照耀范围之内时，人们一时无所适从。一些人主张：应该回到启蒙运动前的立场，仍将意识归为传统宗教。然而，在21世纪的今天，大多人难以退回到两个世纪前的认识中去。这时，只能去设想：能不能打开街上所有的路灯，看看解开意识之谜的钥匙究竟在哪里？然而，在现代科学之上真的存在着一盏盏照亮整个认知领域的路灯吗？
在真实性哲学的路灯下
从表面上看，根本不会有这样的路灯。但是，如果我们把“意识是什么”转化为“为什么我们对意识的研究是真的”，问题就完全不同了。启蒙运动之后，人们之所以坚持用现代科学解释意识，是因为认为唯有科学知识才是真实的。而科学之所以为真，乃是因为其研究客观存在的对象，以揭示客观世界的规律。但我们一直没有问过：如果客观世界根本不存在，现代科学是不是真的？当我们仍坚持科学知识是真的时，那就必须回答：为什么科学是真的？这时，对“科学为真”本身的研究可以使我们打开所有认知领域的路灯，知晓为什么在现代科学灯光下寻找意识之钥匙是徒劳的。
发现科学的真实性不同于“客观实在为真”，这要始于量子力学。虽然量子力学原理的哲学解释早就怀疑客观世界的存在，但真正证明客观世界不存在的，是20世纪80年代的“延迟选择实验”。这是人类历史上第一次用科学实验证明客观实在并不是真实的，迫使我们把科学真实和客观实在区别开来，从而发现什么是真正的“真实性”。我认为：这对于认识论是一件划时代的事情。
我在《真实与虚拟》一书中详细讨论了惠勒提出的延迟选择实验。延迟选择实验以光子（或光波）为对象，用受控实验来检验其是不是可以独立于主体选择（实验装置）的客观实在。虽然光子（或光波）产生于特定的装置，但它只要是客观实在，就一定可以独立于实验装置。换言之，在某种选择（装置）产生了光子（或光波）后，总可以迅速用某种新选择（新装置）取代原有装置，并且在之后某一瞬间仍可以确定原来的光子（或光波）存在着。所谓“延迟选择”指的就是，当光子（或光波）已经存在时，通过极为迅速地改变装置证明光子（或光波）对装置（选择）的独立性，以显示它是一种和主体选择（设置实验装置）无关的客观实在。这些实验在20世纪80年代前后都相继完成，并得到确定无疑的结果，实验证明光子和光波都不是客观实在。
必须强调的是，这些实验可以运用到所有的基本粒子中。它带来了一个人们不敢相信的结论：所有基本粒子都不是客观实在。世界本是由基本粒子组成的，这意味着世界不能独立于主体的选择（设置实验装置）而存在！延迟选择实验之所以重要，乃在于它克服了一个原先看来无法解决的困难。这就是在证明客观实在不是真的同时，必须确定这个“证明客观实在不是真的”之实验本身是真的。众所周知，在科学研究中判断某一个实验结果是否为真，有着明确的标准，这就是该实验结果必须普遍可重复。
以往科学家在解释为什么受控实验（或受控观察）只有在普遍可重复的前提下，结果才为真时，总会回答：因为对象是客观实在。而延迟选择实验证明：必须把真实性和经验世界的客观性明确区别开来。受控实验（或受控观察）结果为真是因为它普遍可重复，而不是因为对象客观存在着。它揭示出真实性实为主体X、控制手段M和对象Y三者的关系：只要控制手段M是主体可任意重复的，主体用选择M规定的对象Y就是真的。换言之，对象的真实性并不源于它是客观实在。正因为如此，可以用受控实验来证明客观实在不存在。延迟选择实验的本质是让Y形成后，迅速改变M，如果Y可以独立于主体和控制手段，那么独立于M的Y可以被受控实验观察到。当实验否定上述想象，仍然证明Y由M规定时，Y不是客观实在。这时，基于受控实验普遍可重复，Y仍然是真实的。真实性作为主体X、控制手段M和对象Y三者的关系，它和客观实在没有关系。
读者或许有疑义：M是实验装置，它是客观实在。真实性怎么会和客观实在没有关系？表面上看，实验装置的存在，使我们不能离开客观实在定义真实性。然而，什么是实验装置？我们如何知道它是真的存在着？这时，必须依赖另一个证明实验装置存在的受控实验（或受控观察），实验装置的真实性取决于这些受控实验（或受控观察）的普遍可重复性。这样，任何实验装置都可以化约为主体所实行的一系列选择（设置）及其结果，我们将最后化约的结果记为M。这一切显示了选择（设置）的任意可重复性才是真实性的本质。一旦理解了真实性实为主体X、控制手段（设置）M 和对象Y三者的关系，我们将三者关系记为R（X，M，Y），并得到如下结论：在三元关系R（X，M，Y）中，只要控制手段（设置）M是主体可任意重复的，R（X，M，Y）中Y就是真的。
真实性研究使我们找到了不同于科学之光的其他路灯。在它们的照耀之下，科学、心灵、人文宗教之间不再存在着黑暗地带。为什么？基于上面的分析，我们可以发现：R（X，M，Y）有着不同的类型，每一类构成一个领域，科学真实只是真实的R（X，M，Y）某一特殊领域而已！有关意识之谜的钥匙存在于真实性的哪一个领域，终于清晰地显现出来了。换言之，在真实性哲学的灯光之下，虽不能立即回答什么是意识，但这个问题应该如何解决却是可以回答的。
为什么人工智能不可能有意识
首先，我们来证明为什么神经系统的实验研究不能揭示意识，以及为什么人工智能不可能有意识。原因在于，真实性具有众多领域，而科学真实只是众多真实性之中的一个，用科学研究证明意识为真是搞错了领域。为什么？因为在三元关系R（X，M，Y）中，只要M是主体可任意重复的，由M规定的Y就是真的。而X有“个别”和“普遍”两个不同选项， M有“包含主体”和“不包含主体”两个不同选项，对象Y也有“经验”和“符号”两个不同选项。所有选项的两两组合，有8 种可能性。在真实性关系的 8 种类型中，如果只考虑经验真实性，一共有 4 种可能性。分析这 4 种可能性，立即推出科学只是经验真实三个领域中的一个。
科学真实的前提是主体X为“普遍”，M为“不包含主体”。什么是主体 X为“普遍”？科学真实的基础是受控实验或受控观察的普遍可重复。普遍可重复是指受控实验或受控观察结果对某一个主体Xn为真时，对另一个主体Xn+1 亦为真。也就是说，在可控制变量和可观察变量不变的前提下，将某一个主体Xn换为另一个主体Xn+1，只要受控实验和受控观察结果仍然相同，再加上数学归纳法成立，得到的相应经验对所有主体X为真。这时，我们称之为主体X是普遍的。而M是主体做出的控制（仪器装置及其规定的实验条件），因所有科学实验中实验条件都不包含主体，科学真实只是 R（X，M，Y）中X为普遍、M 不包含主体，即主体可悬置所规定的那一特定类型。
当X为普遍，但M包含主体，即主体在普遍可重复之受控操作中不能悬置时，其可重复性结构和受控实验（受控观察）不同，它亦规定了对象对所有主体的真实性。因为M是一批变量，其中某些包含主体，某些不包含主体。和它相比，规定科学真实的普遍可重复的受控实验和受控观察，只是M中将包含主体变量排除之结果。在《真实与虚拟》一书中，我将包含主体的 M 之实验称为拟受控实验（观察）。和拟受控实验（观察）的普遍可重复对应的真实性领域属于人文社会世界。同理可知，当“X为普遍”不成立，只要由主体控制的Y可任意重复，Y仍是真的。这样，也就得到真实性的第三种类型，这就是个体真实。在《真实与虚拟》一书中，我详细论证了真实性存在着三个领域。它们分别是科学真实、人文社会真实和个体真实。
一旦认识到现代科学研究只是三种真实性领域中某一种真实性探索，立即可以理解为什么在现代科学的路灯下找不到打开意识之门的钥匙。因为任何用普遍可重复的受控实验和受控观察确定为真的对象中都不包含主体X，而意识和主体直接相关。也就是说，用科学的真实性不能证明意识的真实性。意识研究不属于纯粹的科学真实领域。
我们可以用神经系统记忆研究为例说明这一点。大脑神经系统的实验研究要求其普遍可重复，然而只要实验的控制条件中不包含主体，用科学研究发现的神经系统的记忆只能是输入和输出关系的变化，它不可能涉及主体，当然也不能用于解释意识。今天科学家在讨论神经元的记忆功能时，将其归为外部输入导致其阈值变化，其后果是输入与输出关系的改变。必须强调的是，这是用受控实验和受控观察研究神经系统如何记忆得到的结论。例如，一只狗被汽车撞了，下次见了汽车就会害怕，神经科学用狗有记忆来说明这一点时，记忆被称为生物对外界刺激的敏感化。这种解释可被一个普遍可重复的受控观察证明，它当然是真的，但这种记忆中不存在意识。难道记忆真的和意识无关吗？答案是否定的！
心理学家都知道：用行为模式的改变来定义的记忆，实际上只是记忆的一种形态，称为“程序性记忆”。人学会游泳但事先并不知道在水里应如何动作，这是一种和主体无关的记忆。人还有一种记忆，它是通过主体唤起过去的经验呈现出来的，心理学上称之为“陈述性记忆”。陈述性记忆具有符号性、意向性、建构性、会被遗忘等特点，它使人能主动地去适应环境。a 事实上，“人有陈述性记忆”是通过拟受控实验（观察）证明的。在相应心理学实验中，普遍可重复实验的控制变量中存在主体，实验也要求主体进入实验条件之中。b 所有这一切都是科学真实领域中的普遍可重复之受控实验和受控观察不能做到的。
科学真实研究中主体被悬置，不仅体现在普遍可重复的受控实验和受控观察里，更表现在根据已知的科学原理设计的仪器和计算机之中。人造神经网络、人工智能不会有意识，因为它们是用科学原理设计出来的，证明这些原理为真需要普遍可重复的受控实验和受控观察（或作为其符号表达的数学）。而在普遍可重复的受控实验和受控观察中，可控制变量和可观察变量中都没有主体，仪器和程序中也不会有主体。在什么前提下，人造仪器或程序有意识？如前所述，它们的设计原理必须被普遍可重复的拟受控实验（观察）证明。至今人工智能中还没有这样的设计原理，人们指望意识在今日人工智能程序中涌现，是把自己（主体意识）投射到仪器中的想象。
这方面最典型的例子是对思维和智能的行为主义定义：如果我们对机器提一系列问题，当其回答和人没有区别时，即可认为机器和人一样能思维。这就是图灵测试。表面上看，人的思维和智能规定了人如何根据自己收到的信息（输入）给出相应的回答（输出），只要机器的输出和输入关系与人一样，两者就没有差别。其实，这是不正确的。因为人是主体，主体可以否定原有的输入与输出的关系，做出完全不同于任何既定程序规定的行为。行为主义根据机器以前的表现和自己一样，就把自己有意识投射到机器中去，认为机器有意识。这是把拟受控实验（观察）误认成受控实验（观察）。
早在20世纪80年代，美国哲学家约翰·塞尔提出“中文房间”的思想实验时已经隐约感觉到这一点。塞尔想象一位只说英语的人处于一个“中文房间”之中，除了有一个小窗口外，该房间是对外封闭的。房间里有足够的稿纸、铅笔和橱柜，还有一本中文翻译手册。当写着中文的纸片通过小窗口源源不断地被送入房间中，房间中的人可以使用手册来翻译这些
文字并用英文回复给窗外。这时，房间外的人都以为房中的人懂中文也懂英文，而事实上房中的人根本不懂中文。塞尔用这一思想实验证明：一个既懂中文又懂英文的人，判断另一个人和自己一样既懂中文又懂英文，是把自己想象成对方，以解释其行为。这和“中文房间”里人的处境完全不是一回事。
“中文房间”实验中的人是程序的一部分。“中文房间”的输入与输出关系之中都没有主体，程序运作也不需要主体的存在。而房间外的人则可以将其想象成自己，将自己如何把中文翻译为英文的过程投射到房间中人的行为之中。这种投射是将主体放入本来不存在的输入和输出关系中。今天人们熟知的Chat GPT实际上就是“中文房间”的升级版。其输入为一个由文字组成的符号串，它代表我们向智能程序提出的问题和要求。智能机器根据输入用程序产生另一个由文字组成的符号串，提问题的人读懂了这个符号串，认为智能机器回答了自己的问题。有人认为，据此可认为人工智能是有意识的，因为其通过了图灵测试，其实那个根据输入做出输出的程序，根本不知道输出符号串的意义，正如前面讲的第一种记忆那样。这可以解释为什么迄今为止所有人工智能都不能通过图灵测试。事实不正是如此吗？无论计算机的输入和输出关系多么接近人的行为，因为其没有主体，只要在新的测试中加入一个计算机学习中不曾考虑到的主体特有的指标，这时计算机的输入和输出立即和人的行为区别开来了。
既然现代科学研究不能揭示意识，解开意识之谜的钥匙在哪一个领域呢？显而易见，意识研究必须以拟受控实验（观察）为基础。拟受控实验（观察）中，主体可控制（可观察）变量M包含主体，但作为实验结果的真实性，其和用受控实验（受控观察）保证科学研究结果的真实一样，必须依靠其普遍可重复性。读者或许会问：真的存在拟受控实验和拟受控观察吗？有关意识研究的真实性唯有靠其普遍可重复来证明吗？当然是的，心理学就是最典型的例子。

（文：AI科技大本营）

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯！

立即前往