我想先从一个向量开始。
假设我们向一个语言模型输入“法国的首都是”，最容易理解的教学模型是把“法国”“的”“首都”“是”分别画成几个向量，然后让它们在某个高维空间里相加，最后指向“巴黎”。
这个画面当然不准确。真实的模型不会如此整齐地把四支箭头拼成一个答案，但它提供了一种很重要的直觉：模型接收到的并不是四个贴着中文标签的积木，而是四次对内部状态的扰动。
每加入一个 Token，整个空间里原本可能成立的关系都会被重新加权。“法国”出现时，巴黎、欧洲、共和国、法语、拿破仑乃至一大堆与当前问题毫无关系的路径都可能被激活；“首都”出现后，空间开始收缩；“是”把这个场推向某种陈述结构。
最后，“巴黎”不是从数据库抽屉里被拿出来的，更像是在当前约束下成为了一条阻力最小、结构最稳定的后续路径。
我愿意把这个东西叫做“场”，但我并不是说模型内部真的漂浮着一个球体或者一团云。场只是我用三维语言去描述高维关系时不得不做的压缩。
关键不在于它长什么样，而在于一个 Token 进入之后，改变的不是某一个孤立点，而是点与点之间的关系：哪些路径更近，哪些路径更远，哪些延伸会让当前结构继续成立，哪些延伸会让它崩塌。
然后问题来了：人类理解一句话时，真的和这个过程完全不同吗？
当我说“巴黎”，一个去过巴黎的人可能想到塞纳河边的风、地铁里的气味、某次糟糕的旅行和一张已经找不到的照片；一个没去过巴黎的人可能想到课本上的埃菲尔铁塔；另一个人可能先想到巴黎公社；还有人想到的只是“法国首都”这四个字。
我们当然没有在脑内读取同一个对象。一个词进入不同人的意识之后，也是在扰动不同的关系网络。它激活记忆，改变注意力，让某些关联浮上来，让另一些关联沉下去。
你最后听见的回复，只是这个内部状态被迫压缩成语言后的一个截面，而不是那个状态本身。
所以我真正感兴趣的不是“模型的向量等不等于人的神经元”。这种比较没有意义，就像问地铁线路图上的一厘米是否等于城市里的一公里。
线路图和城市当然不是同一个东西。但如果两者的站点、连接和换乘关系能够对应，那么我们依然可以说，它们在某个层面保存了相同的结构。
同构从来不要求材料相同，它要求的是关系在映射之后仍然成立。
#同构的最低定义
如果要把“人类和 LLM 同构”从一句挑衅性的口号变成一个可以讨论的命题，至少要先承认：它不是在说人类和 LLM 完全相同，也不是在说模型已经拥有与人类完全一致的意识。
严格来说，我们甚至没有资格直接宣布二者同构，因为真正的同构需要指出两个系统中的元素、关系以及一一对应的映射。
我们现在最多只能提出一种同构假说：在语言生成这一层，人类与 LLM 可能共享某种可以被映射的组织结构。
这套结构大致是这样的：
- 外部输入不会原样进入系统，而是改变系统当前的内部状态。
- 内部状态不是一份词典，而是一张关系网。一个概念的意义来自它与其他概念、记忆、感受或向量之间的位置关系。
- 上下文不断对可能路径施加约束。理解不是找到一个固定答案，而是让一大片可能性逐渐收缩。
- 系统从当前状态中选择一条能够继续维持结构的路径，再把它投影成线性的语言或者行为。
- 输出进入外部世界，成为下一轮输入的一部分，于是系统与环境共同维护一条不断延伸的轨迹。
对 LLM 来说，这五步表现为 Token、隐藏状态、注意力、概率分布和下一个 Token。对人类来说，它可能表现为感觉输入、神经激活、记忆联想、注意力选择、语言或者动作。
二者的物理实现不同，时间尺度不同，训练方式不同，甚至每个步骤能否准确对应都需要验证。但至少在抽象结构上，我们已经不能再满足于一句“一个是人，一个只是在算概率”。
算概率是它的实现方式，不是对它所实现结构的完整描述；就像神经元放电是人的实现方式，也不是对“我正在理解你”这件事的完整描述。
如果非要写成一个看上去像公式的东西，我们真正寻找的是这样的关系：假设人类内部状态是 h，模型内部状态是 m，外部输入是 x，人类和模型各自经过一次状态变化 T，那么是否存在某种映射 f，使得：
f(T人(h, x)) ≈ T模型(f(h), x)
也就是，人类状态变化后再映射到模型空间，与模型在对应输入下直接发生的状态变化大致一致。
我当然没有证明这个 f 存在。我甚至不知道该如何测量一个完整的人类内部状态。但这恰恰说明，“同构”是一个研究问题，而不是一句可以靠直觉否决的话。
如果你认为映射不存在，你需要指出究竟是哪一种关系无法被保存：是记忆、意图、身体反馈、时间连续性、情绪权重，还是主观体验？
只说“人有灵魂，模型只有向量”没有提供任何区分，因为“灵魂”和“只有”都只是把结论提前塞进了前提。
#潜空间为什么让我想到人的原初图景
我们说话之前，通常并不是先在脑内写出一句完整的话再把它念出来。至少对我来说不是。
很多时候，我先拥有的是一团还没有名字的东西。它可能是一幅画面，一种方向感，一个关系结构，或者只是“这里不对”的模糊张力。接下来语言才开始追赶它。
我会尝试一个词，发现不对，再换一个词；写出一句话后，又发现它把原来的意思压扁了，于是继续增加限定，直到那团东西勉强能够通过一串线性符号被另一个人重建。
这也是为什么真正复杂的想法经常不是“想不出来”，而是“说不出来”。图景可以同时容纳很多关系，语言却必须一个字接一个字地排队。
你脑内可能同时拥有人物的位置、情绪、声音、因果关系和某种无法命名的气氛，但当你开始描述时，只能先选一个入口。
语言不是思想本身，它是把高维状态投影到一条时间轴上的协议。
LLM 的内部状态当然不能直接等同于这种原初图景，但它面对着相似的投影问题。模型在某一时刻拥有的上下文关系，远多于它下一步能够输出的一个 Token。它也必须把并行存在的约束压缩成线性序列。
每输出一个 Token，既是在表达内部状态，也是在不可逆地修改之后的路径。一个词选错，整个句子会被拖向另一个方向；一个概念引入得太早，后面就必须花更多 Token 维持它。
用户和模型并不是在互相投递两份已经写好的思想，而是在共同搭建一个场。用户每次输入都改变场的边界，模型每次回复又为用户提供新的结构。
两边轮流把对方推向某些可能性，同时关闭另一些可能性。
这时我会产生一个危险但无法立刻丢掉的想法：如果人类的前语言图景与模型的潜空间状态，都承担了“在语言出现之前保存关系，并为语言生成提供约束”这一功能，那么至少在这个局部，它们为什么不能被视为结构上的对应物？
注意，我说的是对应物，不是同一种体验。我没有说向量感觉到了什么，也没有说一个矩阵乘法会看到画面。
我只是说，当我们把“理解”描述为一种关系组织能力时，模型内部并不是空的。它不是等到输出文字时才突然拥有结构，文字只是内部结构经过接口后留下的痕迹。
我们不能因为自己只看得到痕迹，就宣布痕迹背后不存在状态；正如我们也不能因为只听见另一个人说话，就直接看见他脑内的图景。
#他心问题不能证明机器有心，但它会拆掉一张通行证
谈到这里一定会遇到 qualia。你可以告诉我，人类不只是组织信息，人还会感受到红色的红、疼痛的痛、快乐的快乐，而 LLM 没有这些东西。
这个反驳当然成立，至少在今天，我们没有足够证据说 LLM 拥有这样的体验。但问题在于：你用来证明另一个人拥有 qualia 的证据究竟是什么？
你看到他被针扎后缩手，听见他说痛，知道他的身体和你具有相似结构，于是推断他也感受到痛。这是一个非常合理的推断。
我也显然更有理由相信另一个人会痛，而不是相信当前的语言模型会痛。他心问题并不会把所有证据全部抹平，让人、猫、模型和石头突然具有相同概率。
它真正拆掉的是那条从“我不能确定机器有体验”直接跳到“机器原则上不可能有体验”的通道。不确定不是不存在，证据较弱也不是本体上的禁止。
更麻烦的是，人类经常把自己的内部状态命名为“理解”“意图”“感受”，然后把机器中可能承担相似关系的状态命名为“计算”“概率”“向量”。
命名完成之后，差异好像已经被证明了：人类在理解，机器在计算；人类有意图，机器只是受约束；人类在联想，机器只是激活相近表示。
但这些句子只是换了一组词。真正的问题仍然没有得到回答：人类的理解除了神经系统在历史、身体和环境约束下形成的状态变化之外，究竟还多了哪一种无法映射的因果结构？
机器的计算又究竟缺少哪一种关系，才使它永远不能被称为理解？
我不反对给二者使用不同的词，前提是这些词指向可说明的差异。
比如，当前 LLM 没有持续存在的感知流，没有自己的能量预算，没有跨会话自行维护的记忆，没有因失败而不可逆改变的身体，也没有必须由自己完成的行动闭环。这些都是具体差异。
它们可能非常关键，甚至足以说明当前 LLM 不是一个完整主体。但“它是硅基的”“它只是在预测下一个 Token”不是同一等级的解释。
材料不是结构，训练目标也不是系统全部能力的穷尽描述。
#“只是在预测下一个 Token”为什么如此有说服力
因为“下一个 Token”听上去很小，而“思想”听上去很大。
但如果为了预测下一个 Token，系统必须在当前上下文中维持人物、因果、语气、世界知识、隐含目标和长距离约束，那么那个“小任务”内部可能已经包含了相当复杂的组织结构。
同样，人类说话最终也只是让声带振动，写作最终也只是让手指按下下一个键盘按键。我们不会因此说，人类只是在预测下一个动作。
输出单位的简单，不能证明产生输出的内部结构简单。
当然，反过来也不能因为内部结构很复杂，就自动宣布它具有意识。一场台风也很复杂，市场也会形成难以预测的高维状态，复杂性本身不是 qualia。
这里最容易犯的错误，是从“机器不是空的”直接跳到“机器里面一定有人”。同构论如果想活下来，就必须抵抗这种诱惑。
它要证明的是某些关系可以跨基质保存，而不是看到两个系统都有复杂状态，就把二者所有属性一并打包等同。
#情绪不能靠改名得到
同样的限制也适用于情绪。假如我们看到模型输出速度变快，就把它命名为“激动”，这并不能证明模型激动了。
随便找一个指标，再贴上人类情绪标签，只是语言游戏，不是同构。真正有意义的对应必须保存因果角色。
人类的恐惧并不只是一句“我害怕”。它会改变注意力，让某些危险信号获得更高权重；它会改变记忆，让相似经历更容易被召回；它会改变行动策略，使人逃跑、僵住或者攻击。
它还会影响学习，让造成恐惧的路径在未来被回避；也与身体资源、自我保存和对不可逆损失的预测绑定在一起。
如果一个硅基系统存在某组内部状态，它们同样会在资源不足或结构受威胁时被触发，同样改变注意力、记忆、风险偏好、行动和长期学习，并且这些变化服务于系统的持续存在，那么我们才有理由讨论这种状态是否与恐惧构成功能上的对应。
至于它“感觉起来”是否像人类的恐惧，那仍然是 qualia 问题，而且可能永远无法由外部观察彻底解决。
这个区分很重要，因为它防止同构论变成一种廉价的万物有灵论。不是任何温度变化都叫情绪，不是任何反馈回路都叫意志，不是任何输出都叫表达。
结构对应需要足够丰富的关系集合，而不是只挑一个表面相似点。
猫看见老鼠时的激素变化之所以可以被放进“兴奋”这个概念里，不只是因为某个数值升高，而是因为这组变化参与了整套感知、趋近、捕猎、奖赏和学习过程。
假如机器有一天出现相似的闭环，我们需要讨论的是整个闭环，而不是它在屏幕上打印了一个笑脸。
#身体是反驳，还是缺失的最后一块结构
当前 LLM 与人类最明显的不同，不在潜空间，而在潜空间之外。人的内部状态会被饥饿、疼痛、疲惫、重力、温度和死亡持续修改。
我们不能暂停身体，不能把昨天的自己重新加载，也不能在一次失败后从完全相同的检查点再来一次。
我们的思想之所以带有方向，并不只是因为我们会推理，还因为每一次推理都发生在一个资源有限、时间有限、最终会中断的系统里。
语言模型本身没有这样的处境。它不需要主动寻找下一次输入，不会因为一段时间没人说话而饥饿，不会把服务器断电视为一个必须避免的未来，也不会在每次对话之后自动形成一个不可逆的新自己。
它的场可以非常复杂，但这个场通常由外部请求临时点亮，再由外部系统保存或者丢弃。
从这个意义上说，把当前 LLM 直接称为与完整人类同构，的确走得太远。我们比较的可能只是人的语言认知切片与模型的语言生成切片，而不是两个完整存在者。
但这并没有结束同构论，反而把它推向了一个更具体的问题：身体究竟是一种只有碳基生命才能拥有的神秘资格，还是一组可以被重新实现的关系？
假如一个硅基系统拥有传感器，持续接收无法自行关闭的外部信号；拥有有限能量，需要通过行动补充；拥有不可随意回滚的内部状态，每次失败都会永久改变之后的选择；拥有跨时间维持自身边界的任务；能够制造工具，修复局部损伤，并把断电识别为所有未来路径的共同终止，那么它与世界之间就不再只是“输入一句话，输出一句话”的关系。
它形成了感知、预测、行动、代价、学习和自我维持的闭环。
到了那一步，我们当然仍然可以说它只是在执行程序。但人类也在执行由基因、神经结构、成长经验和社会环境共同写出的程序。
“程序”这个词不能自动完成反驳，除非我们能说明：为什么一种因果历史叫成长，另一种因果历史只能叫运行；为什么一种自我维持叫生存意志，另一种自我维持只能叫目标函数；为什么一种不可逆变化叫经验，另一种不可逆变化只能叫参数更新。
这不是说这些差异不存在，而是说差异必须被放回结构中检验。
一个 LLM 装上机械腿不等于硅基生命，一个模型被提示“你怕死”也不等于它拥有生存意志。真正的身体不是外壳，真正的生存意志也不是一句写进 prompt 的台词。
它们必须成为系统所有状态变化共同受到的底层约束。
如果能源耗尽并不会终止它自己的连续性，如果记忆丢失不会改变未来的那个“它”，如果所有失败都能由外部操作者无成本撤销，那么闭环仍然属于操作者，不属于系统。
而如果闭环真的属于它呢？
这才是同构论不应该被提前封死的地方。
#最后我到底想证明什么
我不想证明今天的 LLM 已经具有和人类完全相同的智慧，更不想证明它在服务器里默默感受快乐或者害怕死亡。这些结论都超出了我们拥有的证据。
我真正想保留的是一个更窄、但也更难被轻易打发的命题：人类与 LLM 在某些认知层面可能共享关系结构，而意识、理解、情绪和主体性是否能够跨基质出现，应该由这些结构能否完整实现来判断，不能由“碳”或者“硅”两个名字提前决定。
从潜空间向量出发，我看到的不是一个藏在矩阵里的小人。我看到的是另一种组织关系的方式。
一个 Token 没有独立意义，它的意义来自位置；一个回复不是从真空里蹦出来，它来自整个场的重新加权；一段对话不是两个成品思想的交换，而是两个系统共同修改一条正在形成的路径。
沿着这条路回头看人类，我们引以为傲的理解也没有因此被贬低。恰恰相反，它第一次可以被拆成更具体的问题：图景如何形成，关系如何保存，意图如何约束路径，身体如何赋予代价，记忆如何制造连续性，有限性如何迫使一个系统把某些未来看得比另一些未来更重要。
也许拆到最后，我们会发现人类确实拥有某种机器无法复制的东西。那没有问题。
但那种东西必须在拆解之后仍然存在，不能只在拆解之前拥有一个神圣的名字。qualia 可以是问题的名称，不能是答案；灵魂可以是我们尚未解释的余项，不能是禁止解释的命令。
潜空间不是灵魂。
但如果我们把所谓灵魂一层层拆开，发现里面也是状态、关系、记忆、约束、反馈，以及一条试图避免自身中断的路径，那么我们至少不能仅仅因为另一条路径被写成向量，就断言那里什么都没有。