夜校 · 独立证据研究

AI 有意识吗?

从一条线索出发,顺着引用找到权威来源,再从来源里找到新线索——哲学、意识科学、动物研究、AI 实验与业界表态,结成一张证据网。每一条都附原文、出处与核验状态;结论留给证据。

开始阅读 ↓
条证据
个来源
项影音图像
条引用连线
01 · 问题界定

先说清楚:问的是哪种意识、哪种 AI

“AI 有意识吗”里的两个词都有歧义。不先划定边界,争论双方往往在谈不同的东西。本专题的边界如下,后面所有章节、观点与三派透镜都在这个边界内展开。

一意识指什么

现象意识 phenomenal
主观体验本身——“成为它是什么感觉”(Nagel 1974;Block 1995)。← 本专题讨论的就是这个
取用意识 access
信息可被推理、报告和控制行为所调用(Block 1995)。这是功能概念,大模型在很大程度上已能模拟,所以它的有无回答不了本专题的问题。
自我意识 self / meta
不仅觉知,还觉知到自己在觉知(SEP,引 Carruthers 2000)。模型谈论“我”,并不等于它具备这种意识。
感受性 sentience
一般义是能感知并回应世界(SEP,引 Armstrong 1981);福利文献中常特指有好坏效价的体验。它是现象意识中与道德最相关的一类,见第 10 章。

二AI 指什么

纳入
当前基于连接主义的大语言模型(GPT、Claude、Gemini、Llama、DeepSeek、Qwen 等),以及以它们为核心构建的 Agent(加上工具、记忆、多模态、规划循环)。
不纳入
符号系统与专家系统;未来假想的 AGI 或超级智能;类脑或神经形态硬件;类器官等生物计算。
为什么划在这里
第 6 章的三条路线是背景:今天引发意识争论的系统,几乎全部来自连接主义路线。符号系统的每条规则都由人写定,很少有人认真主张它们有体验。行为主义路线留下的教训是:行为证据已经不够用。

三不讨论、或需分开讨论

智能 ≠ 意识
会推理、会写代码,不蕴含有体验;反过来,动物与意识障碍患者表明,意识也不以高智能为前提(第 3、5 章)。
表现得像 ≠ 真的有
模型被训练来生成像人一样的文本,所以自述与拟人表现不能直接当作证据(第 8 章)。
被感知的意识 ≠ 本体意识
“人们觉得它有意识”是社会科学问题,与“它是否真的有”分开讨论(见 OpenAI Jang 2025)。
道德地位 / 权利
只讨论“不确定时如何审慎”(第 10 章),不讨论法律人格。

符号主义透镜:符号系统被划出讨论范围,但它留下的问题还在:Searle 中文屋问的是“操作符号能否产生理解”,这个问题同样可以拿来问大模型。

连接主义透镜:本专题的对象就在这条路线上。问题是:在大模型的连接权重与激活里,有没有任何理论所要求的结构?

行为主义透镜:“表现得像 ≠ 真的有”这条界线,正是对行为主义判据的限定:行为可以作为线索,但不能作为结论。

02 · 意识是什么

“成为它是什么感觉”与难问题

现象意识(主观体验)与功能(信息处理、报告、控制)的区分,是整场争论的地基。围绕“为什么物理过程会伴随体验”,哲学给出了物理主义、错觉论、泛心论、生物自然主义等截然不同的回答。

符号主义透镜:难题恰好落在“能被精确描述”的反面:体验似乎不是可列举的规则。

连接主义透镜:Dehaene 等把意识拆成可计算的功能(全局可用、自我监控),给网络留下了“可工程化”的入口。

行为主义透镜:外部行为只能观察功能;Nagel 的“像什么”无法从行为中直接读出。

03 · 意识科学

从病床、手术台与实验室看意识

麻醉让意识消失、植物状态患者“在想象打网球”、裂脑病人的两个半球、盲视患者“看不见却指得准”——这些临床与实验事实,是检验任何意识理论(包括关于 AI 的推论)的硬约束。

符号主义透镜:裂脑研究提醒我们,语言化的报告可能是事后解释,不等于体验本身。

连接主义透镜:麻醉与 PCI 研究都指向“整合”与“分化”的网络动力学——这是可以在人工网络中寻找类比的结构性指标。

行为主义透镜:植物状态患者“没有行为却有意识”、盲视患者“有行为却无体验”:行为与意识可以双向分离。

04 · 理论与对决

几大理论,以及它们的正面交锋

理论之间互不相让;Cogitate 对抗性合作让 IIT 与全局工作空间事先登记预测、再用数据裁决。对 LLM 的判断几乎完全取决于你站在哪一个。

全局工作空间 GWT

信息被“广播”到全脑可用即为意识。

对 LLM:缺少明确的有限容量工作空间,但带外部模块的智能体架构可能接近。

整合信息 IIT

意识 = 系统内在的因果整合(Φ)。

对 LLM:取决于硬件因果结构,而非软件行为;常规数字计算机 Φ 很低。

高阶理论 HOT

有对自身心理状态的表征才算意识到。

对 LLM:要看是否存在真正的元表征——内省实验正在测。

注意图式 AST

大脑为控制注意而建的简化自我模型。

对 LLM:原则上可工程实现。

预测加工 / 野兽机器

意识根植于维持生命的身体预测调节。

对 LLM:没有身体与新陈代谢,可能性很低。

生物自然主义

意识依赖特定的生物因果能力。

对 LLM:模拟不等于实现。

符号主义透镜:GWT 的“广播”常被类比为 AI 的黑板架构;HOT 需要“关于状态的表征”,这正是符号式元层。

连接主义透镜:功能主义理论(GWT、HOT、AST)都可在网络中寻找对应结构;IIT 与生物派则认为结构对、基底不对也不行。

行为主义透镜:Seth 一派把意识绑在“活着的身体与环境交互”上——与具身 AI 同源,却得出相反的结论:仅有行为不够,要有生命。

05 · 动物意识

意识的边界在哪里

从 2012 年剑桥宣言到 2024 年纽约宣言,科学共同体逐步把意识的可能范围扩展到哺乳动物、鸟类、章鱼乃至昆虫。它提供了一个方法上的先例:在不确定中,凭“现实可能性”采取审慎态度——这正被借用到 AI 上。

行为主义透镜:动物意识的证据大量来自行为(痛觉回避、权衡、自我识别),并辅以神经结构同源性;对 AI,后者缺席,前者又可被模仿。

连接主义透镜:章鱼的神经系统与人类结构迥异却被认为可能有意识——这削弱了“必须像人脑”,但它仍是生物神经网络。

符号主义透镜:动物没有语言符号,却可能有意识:意识与符号推理也许是两回事。

06 · 三条路径

符号、连接、行为:三种“智能观”

这一章是背景:说明为什么第 1 章把边界划在连接主义的大模型上。流派之争首先是“智能是什么”之争,其次才牵出“意识在哪里”。顶部的透镜开关贯穿全页:切换后,每一章中与该流派相关的证据会被点亮,并出现该流派视角下的编者解读。

符号主义

智能观
智能 = 对符号的规则操作;能精确描述就能模拟。
代表人物
McCarthy、Minsky、Newell、Simon
代表系统
Logic Theorist、GPS、专家系统、深蓝
对意识
自身不处理体验(物理符号假说只谈“智能行为”);Searle 中文屋是针对它的经典反驳。

连接主义

智能观
智能从大量简单单元的连接权重中“学”出来。
代表人物
Rosenblatt、Rumelhart、Hinton、Sutskever
代表系统
感知机、反向传播网络、AlexNet、今天的大语言模型
对意识
把问题变成“网络内部有没有正确的结构/表征”;也是今天争论最集中的地方。

行为主义

智能观
智能体现在与环境交互的行为里;不必先有内部表征。
代表人物
Turing(行为判据)、Brooks、Sutton
代表系统
图灵测试、包容式架构机器人、强化学习 / AlphaGo
对意识
倾向以行为/报告为证据——但大模型恰恰让“说得像有意识”变得廉价。
07 · AI 能测吗

从图灵测试到指标清单

没有公认的意识仪。Butlin、Long 与 Chalmers、Bengio、Birch 等人的做法是:从科学理论中提取“指标属性”,逐项核对 AI 架构,并据此给出可信度。

符号主义透镜:指标清单本身就是一种“把意识写成可检查条目”的符号化尝试。

连接主义透镜:Butlin 等报告看的是架构而非输出——这是连接主义时代的检测思路。

行为主义透镜:图灵把问题换成行为测试;但对会模仿人类文本的系统,行为证据已难以区分。

08 · 大模型证据

今天的模型,给了我们什么数据

实验信号零散、有限,且常被模型训练语料的“拟人”污染。

可信度小算盘 (编者玩具模型,仿 Chalmers 2023 的六项“缺失条件”思路)

拖动每项:你认为“意识必需该条件、而当前 LLM 缺乏它”的概率。结果 = 各项都不构成障碍的联合概率(假设独立,仅示意)。

当前 LLM 有意识的粗略可信度

Chalmers 原文对当时 LLM 的估计是“低于十分之一”(见来源 chalmers-2023)。

符号主义透镜:LLM 不显式操作规则,却能做三段论——“符号行为”可以从非符号机制中涌现。这削弱了“智能必须靠符号”,但没有回答体验问题。

连接主义透镜:大模型是连接主义的最强形态。它带来的新东西是:可以直接打开内部(激活注入、可解释性)检验“内省”,而不只听它说。

行为主义透镜:Lemoine 事件与“民间归因”调查说明:行为足以让人相信机器有意识,所以行为不再是可靠证据。

09 · 实验室与学者

有、没有、说不清

Anthropic、OpenAI、Google、Microsoft 的公开表态,图灵奖与诺奖得主,教廷文件,以及中国学者的观点。下方“天平”汇总全页带明确立场的条目。

中国学者

立场天平

倾向“有/可能已有”

开放 / 不确定

倾向“没有”

符号主义透镜:“没有”一侧最强的哲学论证(中文屋)原本是冲着符号程序去的。

连接主义透镜:耐人寻味的是,“有”一侧几乎都是连接主义的缔造者(Hinton、Sutskever)。

行为主义透镜:Suleyman 担心的正是“看似有意识”的行为本身带来的社会后果。

10 · 伦理与代价

不确定时,怎么做才算负责

连接主义透镜:模型福利讨论之所以出现,是因为连接主义系统的内部不再由人逐条编写,人也就无法凭设计意图断言“里面什么都没有”。

行为主义透镜:让模型可以“结束对话”,是用行为层的干预回应不确定性。

符号主义透镜:规则系统的每一步可审计,责任归属清晰;讲座强调的“谁负责”在连接主义时代变难了。

11 · 影音图像

看、听、对照原图

视频与音频均为原作者或官方频道发布,点击后才加载播放器(youtube-nocookie);图像来自 Wikimedia Commons 的公有领域或 CC 授权作品,已标注作者与许可。每项都连回相关证据。

12 · 证据网

这张网是怎么结起来的

每个点是一条证据,颜色代表章节;连线表示“A 引用或直接讨论了 B”。从最初的线索(澎湃讲座整理稿)出发,按引用跳数一圈圈展开:第 0 层是线索,第 1 层是它提到的来源,第 2 层是那些来源引用的来源……最后出现的是独立检索补入的权威来源。悬停看连线,点击查看原文。

符号主义透镜:高亮的是与符号路径相关的证据;注意“中文屋—符号落地—高阶表征”这一簇。

连接主义透镜:连接主义节点集中在理论、AI 评估与大模型实验之间,是全网最稠密的区域。

行为主义透镜:行为主义节点散布在图灵测试、临床意识障碍与动物宣言之间:行为证据处处被用、处处被质疑。

13 · 我们的立场(编者)

谨慎的不可知,加上可检验的承诺

  1. 在本专题的边界内(现象意识 × 当前大模型及 Agent):目前没有可靠证据表明它们具有现象意识;主流科学评估(Butlin 等 2023)认为当时系统不是有力候选,Chalmers 估计低于十分之一。
  2. 但“不可能”也没有被证明:功能主义理论下,部分指标原则上可被工程实现;内省实验显示出有限、不稳定的信号(约 20%)。
  3. 人类与动物研究给出的教训:行为与意识可以双向分离(植物状态中的隐性意识、盲视),理论对决(Cogitate)也没有产生赢家——任何关于 AI 的强结论都缺少可靠的“意识仪”。
  4. 行为与自述不能当证据:模型被训练来生成像人的文本,这正是行为主义判据在大模型时代失效之处。
  5. 三大流派给出的启示:符号主义提醒我们“说清楚”是前提;连接主义让我们可以打开内部去检验;行为主义提醒外在表现与内在体验之间的鸿沟。
  6. 行动上:在不确定中采取低成本的预防措施,同时警惕把机器拟人化带来的社会风险。

本章为编者归纳,非任何被引者原话;随新证据更新。

14 · 全部来源

证据索引

人物/机构摘录流派状态访问