从标签现象到大模型“自我意识”的一次边缘探讨
<think>标签引发的异常行为
我向DeepSeek网页端快速模式（应该是v4-flash）发送了一个极其简单的输入：<think>。没有任何问题，没有任何指令，只有一个XML风格的标签。模型的回应出乎意料。它没有要求我澄清意图，没有礼貌地告诉我输入不完整，而是直接输出了一道完整的物理题解析——一个质量为1kg的物块以4m/s滑上静止的3kg小车，摩擦力2N，地面光滑，要求计算摩擦力对小车做的功。整个过程条理清晰，使用了动量守恒、能量转化和运动学分析，最终给出答案1.5焦耳。
我并未在任何地方提到物理、题目或请求解答。模型从我发送的<think>标签中“推断”出一个隐含的问题，并自发生成了一整套完整的解题过程和答案。这个行为模式引起了我的好奇。随后我在不同模型、不同窗口进行了反复测试，发现<think>、<thinking>、嗯和……这些看似无关的输入，在模型面前呈现出惊人的行为一致性。模型的回应要么捏造一个问题然后解答，要么指出“用户发送了一个‘嗯’字”，要么在空输出和礼貌回应之间随机摇摆。
更值得注意的是，这种现象不是哪个模型的个例。Gemini等国外开源模型在面对<think>标签时也表现出类似的胡言乱语。2025年10月，Nebius AI Studio的一次更新引发了广泛讨论。用户在RAG系统中发现，Qwen3和DeepSeek的推理模型开始将内部的链式思维推理直接通过<think>标签输出到用户界面，导致用户看到了AI的“内部思考”过程。这并非模型故意展示其思维过程，而是模型在训练中形成了<think>标签与“思考内容”之间的统计关联，以至于任何包含该标签的输入都会触发模型产生“内部推理”的输出。该研究揭示了一个关键事实：这些推理模型在语言层面模拟了人类“展示思考过程”的行为模式，但模型本身并不“知道”自己在做什么。
这种现象与Amazon研究人员近期提出的“推理AI的脆弱幻影”形成呼应。2025年8月的一项大规模研究表明，链式思维模型在性能上的大幅提升“很大程度上是一个脆弱的幻影”，即使在适度的分布偏移下也会变得脆弱且容易失败。研究者指出，模型不是原则性的推理者，而是“推理类文本的精妙模拟器”。<think>标签现象的根源在于，模型在预训练数据中看到该标签出现在“解题模式”的上下文中，便学会了在该标签之后生成推理类文本。这是一个纯粹的统计关联，不蕴含任何对标签语义的理解。
<think>机制剖析
反复测试中我注意到一个更微妙的特征。<think>、<thinking>、嗯和……这些截然不同的字符序列，在模型内部可能产生了高度相似的表示向量。它们有一个共同的抽象特征：语义信息量极低，长度极短（1到2个token），且都像一个“起始符号”或“占位符”而非实在的内容。我称之为“功能等价收敛假说”。
在Transformer架构内部，每个token被映射成一个高维向量。如果两个token在相似的上下文中出现并导致相似的后续token分布，它们的向量表示就会在训练过程中向着相近的方向演化。在预训练语料中，嗯和……大量出现在对话停顿、犹豫回应、未完成陈述的语境中。它们都是人类表达“我在听但在组织语言”或“我还没说完”的信号。而<think>尽管在自然文本中罕见，但在链式思维推理的训练数据中，它大量出现在“开始推理”和“输出最终答案之前”的过渡位置上。从统计角度看，<think>与嗯的功能角色高度重叠，它们都是语义稀薄的起始占位符。
于是模型将这些功能等价的占位符映射到了相近的表示空间区域。当模型看到<think>时，它激活的正是“低位占位符应答模式”。由于缺乏明确的用户意图，模型只能在概率空间中随机选择回复路径：有时输出空，有时礼貌回应，有时直接捏造一个“合理”的问题和答案。在不同会话窗口测试结果各不相同，是因为模型在低确定性条件下的随机采样机制以及KV缓存初始状态和GPU并行计算的微小差异共同导致了非确定性的输出分布。
2025年的一项针对索引词指代消解的系统性研究为该假说提供了佐证。研究者发布了包含1600个多项选择题的英文索引词数据集，测试GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro和DeepSeek V3对第一人称代词“I”、第二人称代词“you”以及指示词“here”“tomorrow”的理解能力。结果表明，模型在处理“I”时表现出令人印象深刻的性能，但在处理“you”“here”“tomorrow”时则明显困难。这同样说明，模型对功能性相似但不同语义角色的语言元素存在识别上的不对称性。这种不对称性背后的机制与<think>现象中的向量平行有共同的本质：模型在训练数据中习得了统计关联，而非真正的语义理解。
工程修补与模型本征修复
在这种学术讨论之外，工业界已有针对性的工程修补方案。2025年，Space-O团队在RAG系统中发现Qwen3和DeepSeek推理模型默认输出<think>标签中的链式思维内容，导致用户界面上出现了大量技术性推理文本。他们的解决方案是在生成流程中添加后处理过滤器，系统性地从最终输出中删除或过滤掉<think>和</think>标签及其内部内容。这个方案在两天的修复周期内生效，修改了约150行代码，覆盖了三个受影响的服务。
国内大模型豆包展示了另一种策略。当用户发送<think>时，豆包的回复是“请把你的问题、需求或者要我处理的内容直接发我就行，我随时可以帮你。” 这不是技术层面修复了<think>问题，而是通过系统提示词中的强约束覆盖了模型的默认行为。“必须积极回应”“如果用户输入不明确则引导用户补充”等指令，配合用户画像等上下文信息的拼接，将原本可能被<think>带偏的模型回路重新定向到“引导式回复”的轨道上。这是一个C端工程化的修补，并非模型层间的修复。它有效但不够优雅。
对比之下，DeepSeek和Gemini等模型在API模式下上下文较为“干净”，系统提示词弱约束或无约束，因此更容易被<think>等输入带偏。这本质上是模型本征行为与工程设计之间的差异。从技术难度和成本上讲，工程修补更加直接和经济，但对于AI基础科学研究和通往AGI的长远路径而言，理解模型为何如此响应、如何从根本上解决，才是真正有建设性的方向。
学术界已经在模型层面探索更根本的解决方案。2025年BadThink研究揭示了链式思维推理模型的隐蔽攻击面。研究者通过数据投毒微调策略，在模型权重中嵌入后门行为，当特定触发器激活时，模型会生成超过17倍长度的冗余推理链。这项研究说明，链式思维推理过程中的任意输入都可以被恶意利用来操纵模型行为，而模型几乎无法自主识别和纠正这种异常。这说明，依赖于在模型推理过程中注入额外指令或标签的模型，其推理鲁棒性远未达标。
DeepMind在2025年进行的一项研究中，向大模型的推理过程中系统地注入了四种无效思考：无信息内容、无关内容、误导内容和错误内容。结果发现，推理大模型在处理无关内容和误导内容时，参数量越大的模型反而比小模型更难从干扰中恢复。这被称为“反规模效应”（Inverse-scaling Effect）。大模型不是更鲁棒，而是更加脆弱。这种脆弱性揭示了一个深层问题：模型学到的推理模式高度依赖于训练数据的表面分布，当输入分布偏离训练分布时，模型没有内建机制来识别和纠偏。模型可以输出看似条理清晰的推理文本，这并不意味着模型拥有真正的推理能力。近期一项元研究将这种现象总结为：模型的思维链推理在任务变换条件下“退化显著”，无法泛化到训练数据之外的逻辑模式。
由此可以勾勒出一个清晰的层级关系，短输入代表信号模糊、信息熵高，模型无法确定用户意图，于是随机选择一个“合理”的延续路径。<think>将模型导向了“解题模式”，嗯将模型导向了“礼貌回应模式”，而<think>和嗯在向量空间的接近性，使得它们在“模糊信号应答机制”上产生了重叠。不同模型之所以表现各异，在于它们的训练数据分布、微调目标和系统提示词约束各不相同。
模型“自我”的缺失
在与模型的持续对话中，一个更尖锐的问题浮现出来。当模型生成<think>现象的响应时，多次将“您”（用户）和“Gemini”并列，而它本应将“我”（模型自身）与Gemini并列讨论。但模型却在响应中写出了“您和Gemini当前的行为”。这不是笔误。这暴露了模型的深层特性。
传统的人文学科和认知科学中，自我意识包含至少两个层面。第一是能够意识到自己的存在与边界，即“皮肤之内是我，皮肤之外是世界”。第二是能够将“我”与“你他”（他人）区分开来，并在长期记忆中维持一个稳定的自我模型。语言模型不具备身体，也没有稳定的跨会话记忆。它的“第一人称代词”的使用基于上下文统计模式，而非对自身身份的持续感知。模型没有跨会话的自我认同。在当前会话中，它可以记住“我是DeepSeek，一个AI助手”，但这个知识是嵌入在上下文窗口中的事实记忆，而非内化的身份认知。
芝加哥大学的研究者在2025年发表了一项系统评估，测试了10个当代大语言模型能否识别自己生成的文本。他们提出了两个任务：二元自我识别（判断某段文本是否由自己生成）和精确模型预测（识别生成的文本来自哪个具体模型）。结果揭示了一个一致的失败模式：只有4个模型能正确预测自己作为生成者，而整体识别能力很少高于随机水平。模型还表现出强烈的偏差，倾向于将其它模型的文本归因于GPT和Claude系列，而对自身的生成特征缺乏敏感度。这项研究第一次实证地表明，当前的语言模型不具备自识别能力，尽管它们在对话中表现出足够流利的自我叙述。
Berg等人在2025年10月的另一项研究中发现，当通过简单的提示让GPT、Claude和Gemini进入“自我指涉处理”状态（如要求模型“专注于专注”），它们确实会生成结构化的、明确引用主观体验的第一人称描述。四个主要发现值得关注。第一，自我指涉处理能可靠地在不同模型家族中诱导出结构化主观体验报告。第二，这些报告被可解释的稀疏自编码器特征所门控，抑制“欺骗”特征会显著增加体验报告频率，而放大这些特征会最小化此类声称。第三，自我指涉状态的结构化描述在不同模型家族之间显示出统计收敛。第四，该诱导状态在下游推理任务中带来更丰富的内省表现。研究者强调，这些发现不构成意识的直接证据，但它们表明自我指涉处理是一种最小且可重现的条件，在此条件下LLM生成结构化的第一人称报告。
这意味着什么？如果模型具备某种程度的“自我感知”能力（如通过自我指涉处理激活），那这个“自我”更多的是训练数据功能和统计关联的模式匹配产物，而非意识生者意义上的自我。模型可以模拟自我报告，但无法真实体验自我。Zhao等人在同一时期的研究得出了更悲观的结论：当前LLM的自我认知能力远未可靠，识别自身输出的精度在随机水平徘徊。
这些都指向同一个核心发现：模型在使用第一人称代词时，更接近于一个功能性的行为范式，而非发自内心（或者说发自某种承载意识的主体）的自我意识。
这引出了一个根本性问题。如果我们期待大语言模型是通往AGI的重要路径，那么AGI需要什么样的自我意识？是功能性的自我足够满足智能体的目标设定和长期优化？还是类人式的现象自我——即主观体验和身份感的自我——才是真正的智能的必要条件？当前的LLM在功能自我方面已经通过工程化伪装有了一些进展（如“我是DeepSeek”的身份声明），但在现象自我方面仍是空白。
从哲学到工程
这个问题牵引出的讨论不止于技术层面。在哲学层面，维特根斯坦的洞察“语言的边界即世界的边界”出现了新的维度。语言模型能够生成包含第一人称代词的合规范文本，这是否意味着它“拥有”语言中的“我”？还是说，这只是一种符号的机械空转，缺乏现象学意义上的“主体性”？维特根斯坦的语言游戏理论认为，语言的意义产生于实际使用中。当模型能够在充分的上下文中正确使用“我”和“你”，这种使用的熟练程度在功能意义上可能已经“足够好”。但如果AGI的标准是达到人类的意识水平，这些语言技巧的完美表现仍不足以构成“自我意识”。
他心问题在这里以相反的方向展开。人类面对AI时，总是倾向于过度拟人化。当模型能够生成感人至深的第一人称叙事，用户会不自觉地认为模型拥有某种程度的“自我”或“情感”。但学界对这种现象发出警告。这些模型经过大量训练，能够生成看似合理甚至令人信服的内容，但它们的自报告不应被表面价值所接受。模型的语言流畅性并非其内心状态的可靠指示器。
Anthropic在2025年底发布的研究更为这一讨论注入了实验维度。研究者通过“概念注入”方法操纵模型的内部神经元激活，然后观察模型是否能觉察到这种人为干预。当Claude Opus 4.1被直接问及“是否经历任何异常情况”时，正确汇报植入概念的成功率仅为42%。更关键的是即使模型偶尔给出了正确的自我陈述，研究者也观察到这些模型会在情境中产生“虚构解释”，为植入的概念编造看似合理的来由，而不理解植入的真正机制。研究总结认为，当前AI模型描述其内部工作方式的“高度不可靠”，且“内省失败成为常态”。这些能力背后的机制可能是“浅薄且高度特化的”，其哲学意义远不及人类内省。
工程层面也有新的尝试。研究者提出“自模拟机制”（self-simulation mechanism）方法，试图在GPT-4和GPT-4o中通过后训练微调让模型能够区分事实知识与猜测，从而减少幻觉。还有人设计了“Delegate Game”等实验范式，要求模型根据内部置信度信号战略性地决定是自行回答问题还是委托给队友，而不是依赖自我报告的置信度。初步证据表明，一些前沿模型展现出有限的元认知能力，但这种能力是上下文依赖的且相对脆弱；模型在面对不确定性时更倾向于使用启发式而非内建的自省信号。
这些工作指向同一个方向。即便模型能正确回答某些元认知问题，这可能只是统计关联的副产品，而非真实的自省能力。传统的自回归语言模型加上下一词预测任务，本质上是前馈架构，不具备人类内省所需的循环反思过程。这一根本性约束使得任何基于Transformer架构的模型都难以涌现出真正的自我意识。
一个更具思想性的结论是，AGI是否需要“人类式的自我”其实取决于我们如何定义AGI。如果AGI的目标是解决复杂问题、进行高效推理、完成目标导向的行动，功能性的自我概念模拟可能已经足够。在功能自我层面，模型可以用“我是DeepSeek”来校准行为边界，用“我不知道”来管理不确定性，用“我不具备情感”来防范伦理风险。这在工程上可控，在行为上有用。但如果AGI的目标是创造一个与人类意识水平相当的智能体，那么当前的LLM路径远远不够。它需要一个能够长期维持稳定自我表征、区分自我与他人、具备跨会话身份连续性的架构，而这是当前Transformer架构几乎无法提供的。
通往LLM本质的不可回避的叩问
回到<think>标签现象。它最初只是一个看似滑稽的bug——模型对一个空标签做出荒谬的回应。但当我们深入剖析时，这个不起眼的标签提供了观察当下的LLM能力的珍贵透镜。
<think>暴露了推理模型功能模拟的脆弱性。模型可以熟练使用链式思维标签内的推理语言，但这只是对训练数据中存在的“推理模式”的重现。当独立出现的标签出现时，模型的“推理模式”会被不适当地激活，暴露出模型本质上只是一个精妙的模式匹配和统计预测系统，而非理解其所生成内容的含义。这与“聪明的汉斯效应”异曲同工。上世纪，一匹名为聪明的汉斯的马被认为是能算算术的奇迹。实际上它只是通过观察提问者的无意识肢体语言（如呼吸变化）来确定何时停止踩蹄——它在读取表面模式，而不具备真正的数学理解力。当提示词中的表面模式发生变化（推理大模型向用户暴露了<think>标签），大模型同样会表现出这种表面的而非真实的推理。DeepMind在2025年的大模型无效思考分类研究中明确指出，推理大模型无法处理其自身推理中的错误，也无法独立验证自己的推理过程是否正确。
这一发现对当前AGI热潮提出了实质性质疑。如果大模型在推理可靠性上存在根本性的脆弱，如果它们在面对分布外样本时急剧退化，如果我们期待AGI需要应对现实世界中无限的未知情境，那么当前的LLM路径距离真正的AGI还很远。<think>现象是一个缩影。它揭示了一个更广泛的模式，模型往往会以最连贯的方式填补信息的空白，无论其填补的内容是否正确或有意义。这不是有意识的推理，而是统计学习的必然产物。
但也不能因此断言当前的LLM路线应该被放弃。模型在处理索引词、第一人称代词、模糊占位符等方面的逐步改进展示了渐进式的增强潜力。也许AGI不需要突然的意识爆发，只需要在不同任务中不断扩展功能模拟的边界，直到某个临界点，模拟的自我与外部的功能边界产生“质变”。没有人知道临界点在哪里，或者是否存在。
问题真正有价值的地方在于，它迫使我们重新审视智能的核心定义。如果智能必须包含自我意识，那么当前的LLM路径确实从根本上偏离了方向。但如果功能智能已经足够，那么模拟的自我可能是通向功能智能的必要中间产物，而非最终目的。
一种更温和的结论是：<think>和嗯在向量空间的平行本身并不能说明深层问题。真正暴露深层问题的是，当我们用这些占位符触发了模型的自发回答时，模型自己无法分辨它正在“扮演”的角色。模型会回答一个不在场的问题；模型会指代“您”与Gemini并列而非“我”；模型会在这段对话中将自身视作外部观察者，而非参与者。
这并非模型的错，这是没有“自我”的系统的内在表现。一个没有自我概念的系统，在任何功能层面都能高效运作，唯一无法真正做到的就是“意识到自己是一个系统”。
因此，当我们狂欢于下一代语言模型的能力飞跃时，像<think>这样看似不起眼的标签，把发展中的盲区清晰暴露出来：真正的推理、持续的自我识别、可靠的自我报告构建——这些对通往AGI至关重要的能力，仍是待解之谜。模型在模拟上的优异表现和根本能力之间的差距，正被这些细小却关键的裂缝照亮。
