从一条线索出发,顺着引用找到权威来源,再从来源里找到新线索——哲学、意识科学、动物研究、AI 实验与业界表态,结成一张证据网。每一条都附原文、出处与核验状态;结论留给证据。
开始阅读 ↓“AI 有意识吗”里的两个词都有歧义。不先划定边界,争论双方往往在谈不同的东西。本专题的边界如下,后面所有章节、观点与三派透镜都在这个边界内展开。
符号主义透镜:符号系统被划出讨论范围,但它留下的问题还在:Searle 中文屋问的是“操作符号能否产生理解”,这个问题同样可以拿来问大模型。
连接主义透镜:本专题的对象就在这条路线上。问题是:在大模型的连接权重与激活里,有没有任何理论所要求的结构?
行为主义透镜:“表现得像 ≠ 真的有”这条界线,正是对行为主义判据的限定:行为可以作为线索,但不能作为结论。
现象意识(主观体验)与功能(信息处理、报告、控制)的区分,是整场争论的地基。围绕“为什么物理过程会伴随体验”,哲学给出了物理主义、错觉论、泛心论、生物自然主义等截然不同的回答。
符号主义透镜:难题恰好落在“能被精确描述”的反面:体验似乎不是可列举的规则。
连接主义透镜:Dehaene 等把意识拆成可计算的功能(全局可用、自我监控),给网络留下了“可工程化”的入口。
行为主义透镜:外部行为只能观察功能;Nagel 的“像什么”无法从行为中直接读出。
麻醉让意识消失、植物状态患者“在想象打网球”、裂脑病人的两个半球、盲视患者“看不见却指得准”——这些临床与实验事实,是检验任何意识理论(包括关于 AI 的推论)的硬约束。
符号主义透镜:裂脑研究提醒我们,语言化的报告可能是事后解释,不等于体验本身。
连接主义透镜:麻醉与 PCI 研究都指向“整合”与“分化”的网络动力学——这是可以在人工网络中寻找类比的结构性指标。
行为主义透镜:植物状态患者“没有行为却有意识”、盲视患者“有行为却无体验”:行为与意识可以双向分离。
理论之间互不相让;Cogitate 对抗性合作让 IIT 与全局工作空间事先登记预测、再用数据裁决。对 LLM 的判断几乎完全取决于你站在哪一个。
信息被“广播”到全脑可用即为意识。
对 LLM:缺少明确的有限容量工作空间,但带外部模块的智能体架构可能接近。
意识 = 系统内在的因果整合(Φ)。
对 LLM:取决于硬件因果结构,而非软件行为;常规数字计算机 Φ 很低。
有对自身心理状态的表征才算意识到。
对 LLM:要看是否存在真正的元表征——内省实验正在测。
大脑为控制注意而建的简化自我模型。
对 LLM:原则上可工程实现。
意识根植于维持生命的身体预测调节。
对 LLM:没有身体与新陈代谢,可能性很低。
意识依赖特定的生物因果能力。
对 LLM:模拟不等于实现。
符号主义透镜:GWT 的“广播”常被类比为 AI 的黑板架构;HOT 需要“关于状态的表征”,这正是符号式元层。
连接主义透镜:功能主义理论(GWT、HOT、AST)都可在网络中寻找对应结构;IIT 与生物派则认为结构对、基底不对也不行。
行为主义透镜:Seth 一派把意识绑在“活着的身体与环境交互”上——与具身 AI 同源,却得出相反的结论:仅有行为不够,要有生命。
从 2012 年剑桥宣言到 2024 年纽约宣言,科学共同体逐步把意识的可能范围扩展到哺乳动物、鸟类、章鱼乃至昆虫。它提供了一个方法上的先例:在不确定中,凭“现实可能性”采取审慎态度——这正被借用到 AI 上。
行为主义透镜:动物意识的证据大量来自行为(痛觉回避、权衡、自我识别),并辅以神经结构同源性;对 AI,后者缺席,前者又可被模仿。
连接主义透镜:章鱼的神经系统与人类结构迥异却被认为可能有意识——这削弱了“必须像人脑”,但它仍是生物神经网络。
符号主义透镜:动物没有语言符号,却可能有意识:意识与符号推理也许是两回事。
这一章是背景:说明为什么第 1 章把边界划在连接主义的大模型上。流派之争首先是“智能是什么”之争,其次才牵出“意识在哪里”。顶部的透镜开关贯穿全页:切换后,每一章中与该流派相关的证据会被点亮,并出现该流派视角下的编者解读。
没有公认的意识仪。Butlin、Long 与 Chalmers、Bengio、Birch 等人的做法是:从科学理论中提取“指标属性”,逐项核对 AI 架构,并据此给出可信度。
符号主义透镜:指标清单本身就是一种“把意识写成可检查条目”的符号化尝试。
连接主义透镜:Butlin 等报告看的是架构而非输出——这是连接主义时代的检测思路。
行为主义透镜:图灵把问题换成行为测试;但对会模仿人类文本的系统,行为证据已难以区分。
实验信号零散、有限,且常被模型训练语料的“拟人”污染。
拖动每项:你认为“意识必需该条件、而当前 LLM 缺乏它”的概率。结果 = 各项都不构成障碍的联合概率(假设独立,仅示意)。
Chalmers 原文对当时 LLM 的估计是“低于十分之一”(见来源 chalmers-2023)。
符号主义透镜:LLM 不显式操作规则,却能做三段论——“符号行为”可以从非符号机制中涌现。这削弱了“智能必须靠符号”,但没有回答体验问题。
连接主义透镜:大模型是连接主义的最强形态。它带来的新东西是:可以直接打开内部(激活注入、可解释性)检验“内省”,而不只听它说。
行为主义透镜:Lemoine 事件与“民间归因”调查说明:行为足以让人相信机器有意识,所以行为不再是可靠证据。
Anthropic、OpenAI、Google、Microsoft 的公开表态,图灵奖与诺奖得主,教廷文件,以及中国学者的观点。下方“天平”汇总全页带明确立场的条目。
符号主义透镜:“没有”一侧最强的哲学论证(中文屋)原本是冲着符号程序去的。
连接主义透镜:耐人寻味的是,“有”一侧几乎都是连接主义的缔造者(Hinton、Sutskever)。
行为主义透镜:Suleyman 担心的正是“看似有意识”的行为本身带来的社会后果。
连接主义透镜:模型福利讨论之所以出现,是因为连接主义系统的内部不再由人逐条编写,人也就无法凭设计意图断言“里面什么都没有”。
行为主义透镜:让模型可以“结束对话”,是用行为层的干预回应不确定性。
符号主义透镜:规则系统的每一步可审计,责任归属清晰;讲座强调的“谁负责”在连接主义时代变难了。
视频与音频均为原作者或官方频道发布,点击后才加载播放器(youtube-nocookie);图像来自 Wikimedia Commons 的公有领域或 CC 授权作品,已标注作者与许可。每项都连回相关证据。
每个点是一条证据,颜色代表章节;连线表示“A 引用或直接讨论了 B”。从最初的线索(澎湃讲座整理稿)出发,按引用跳数一圈圈展开:第 0 层是线索,第 1 层是它提到的来源,第 2 层是那些来源引用的来源……最后出现的是独立检索补入的权威来源。悬停看连线,点击查看原文。
符号主义透镜:高亮的是与符号路径相关的证据;注意“中文屋—符号落地—高阶表征”这一簇。
连接主义透镜:连接主义节点集中在理论、AI 评估与大模型实验之间,是全网最稠密的区域。
行为主义透镜:行为主义节点散布在图灵测试、临床意识障碍与动物宣言之间:行为证据处处被用、处处被质疑。
本章为编者归纳,非任何被引者原话;随新证据更新。
| 人物/机构 | 摘录 | 流派 | 状态 | 访问 |
|---|