龙虎斗
闻乐 发自 凹非寺量子位 | 公众号 QbitAI
字节Seed皆出手用化学想想搞大模子了——
深度推理是共价键、自我反想是氢键、自我探索是范德华力？！
{jz:field.toptypename/}
传统的大模子长想维链推理基本把AI的想考进程等同于线性结构。
但很厚情况下，后续的一个要津论断，可能需要回相配去考证早早提议的假定。
CoT把这种非线性的依赖关系忽略了。
字节Seed在论文《The Molecular Structure of Thought》中初次给大模子的长链想维界说了分子式结构。
在这种分子拓扑中，三种键是奈何互相配合的？
好的推理像分子结构
团队把DeepSeek-R1、gpt-OSS等强推理模子的长链想维拆成一步一步的，然后给每一步之间的“普及”打上标签。
打完标签发现，统统有用的长链想维里，其实就三种基础当作往来组合。
第一种叫深度推理，像共价键一样踏实。
等闲来说便是雷同“因为A是以B，因为B是以C”的硬逻辑激动。
团队在语义空间里作念了一个很形象的量化分析，把模子的每一步想考皆当成一个点，看这些点临了会散成多大一个圈。
圈子越小，阐发模子越没跑题，想考越聚焦。
限制发现，加上深度推理之后，这个散点圈径直缩水22%。
深度推理确乎起到了收束杂念、锁定中枢逻辑的要津作用。
第二种叫自我反想，像氢键一样有弹性但自由。
雷同于“等等，我刚才那步是不是想错了”“让我从头搜检一下前边的假定”，能把背面的想考拐转头跟前边的节点呼应上，酿成一种折叠感。
团队测了模子自我反想时的想维轨迹，把每一步想考皆看谚语义空间里的一个点，然后预计反想时会跳回多远、落在那处。
发现81.72%的反想才略，皆会精确落回之前仍是酿成的靠谱想路区域里。
还对比了反想前后的想维范围，反想前，语义空间体积是35.2，反想后，径直压缩到31.2。
再看聚类限制就更了了了，反想之后，团结类正确想路的点会牢牢抱团，而那些零碎、跑偏的分支会被自动推开。
也便是说，自我反想氢键能把靠谱逻辑揉得更紧实、把跑偏办法筛出去、稳住通盘推理大局，让长链想考不再松散紊乱。
第三种叫自我探索，像范德华力一样弱，但笼罩面广。
这个就雷同于“要不我们试试这个角度”“有莫得另一种可能性”，在语义空间里找新的解题旅途。
量化分析透露，加上探索行为之后，模子在语义空间里的想维笼罩范围能从23.95扩大到29.22。
自然想路一掀开自由性就会下落，容易跑偏想歪，但能让模子跳出死巷子，不卡在局部最优解里，竟然找到全新的解题道路。
筹议发现，统统强推理模子的三种想维行为比例和调度律例皆高度一致，关系性卓绝0.9，阐发有用长链推理存在通用的自由拓扑结构。
你可能认为“共价键”“氢键”仅仅个比方，但论文发现，这个比方背后藏着严格的数学对应。
在Transformer里，珍观点权重的预计形貌长这样：
眼熟吗？这和统计力学里的玻尔兹曼散布一模一样：
要是把负珍观点分数看作能量，那么珍观点权重便是模子在语义空间里按“能量”高下经受旅途的概率便是能量越低，澳门威斯人被选中的概率越高
论文进一步分析了三种行为对应的“珍观点能量”。
深度推理时常发生在相邻才略之间，能量最低;自我反想会跳回较远的才略，能量中等;自我探索跳得更远，能量最高.
这就评释了为什么强推理模子的三种键比举例斯自由。
因为模子的珍观点机制自己就在追求最稚子量的推理旅途，而深度推理、反想、探索碰巧对应了不同距离下的能量层级。
语义同分异构体和智能熵减
接着团队还抛出了语义同分异构体的见地。
这词儿是借的化学，相似的分子式，原子赓续形貌不同，就能搞出性质全皆不同的物资。
放到推理里便是，相似的题目，相似的见地点，用不同的”化学键“组合去解，出来的推理链条不错全皆不一样，但皆能解对。
但不是统统异构体皆符合拿来教模子。
这里就要引入一个要津见地熵减
在热力学里，孑然系统老是自觉走向紊乱（熵增），而一个有用的长链推理进程，实质上便是在语义空间里陆续缩短不笃定性——
从一堆可能的标的中，逐渐握住到惟一正确的谜底。这个进程便是“熵减”。
而“珍观点能量”机制，恰是模子达成熵减的器具。
模子的珍观点自然偏好能量更低的旅途。
当深度推理（稚子量）被反复选中，反想（中等能量）把前后逻辑折叠起来，探索（高能量）偶尔探路但不喧宾夺主，通盘系统的“推理熵”就会快速下落，逻辑火速握住。
这如论文里说的，唯有那些能推动熵快速缩短的“化学键”组合，才是模子竟然能学会、能捏续进化的自由态。
这在本质中有个很典型的征象，从R1和OSS两个不同强推理模子中蒸馏出的推理轨迹，语义层面的内容相似度高达95%，但混在沿途磨练，模子反而崩溃了。
这阐发，长链推理的要津是想路结构必须自由、协调，模子才能学得会。
MoLE-Syn：从零合成自由推理结构
发现问题就要处罚问题。
基于这一整套发现，团队搞了个叫MoLE-Syn的门径，来从零合成自由的推理结构。
具体操作就两步。
第一步，从强推理模子（比如R1、QwQ、gpt-OSS）的推理链里，抽出一张行为转动概率图。
这张图里每个节点是一种推理行为（化学键），每条边是从一个行为跳到另一个行为的概率。
第二步，拿着这张图，让闲居的教唆模子照着图上画的概率去生成推理链。
用这个门径从零合成的磨练数据，喂给Llama简略Qwen，成果濒临径直蒸馏R1的水平。
况且这样作念有一个大平正便是本钱低。只须拿到那张行为转动图，闲居模子就能我方分娩及格的长链推理数据。
团队把用MoLE-Syn启动化过的模子拿去作念强化学习，发现跑起来还荒谬稳。
比拟径直用蒸馏数据启动化的模子，MoLE-Syn版的在RL进程中收益捏续增长，飘荡也小得多。
这阐发一出手植入的想维结构够稳，背面的强化学习就不会出现逻辑偏移。
这项筹议的认真东谈主为字节Seed算法众人黄文灏，曾在微软亚洲筹议院担任筹议员。
第一作家是哈尔滨工业大学博士、字节Seed实习筹议员陈麒光
配合单元还包括北京大学、2077AI Foundation、南京大学、M-A-P、中南大学。
不得不说，这波操作有点已往薛定谔拿物理学公式推生物学那味儿了。
给大模子推理这个卷得飞起的边界，开了个挺默契的新脑洞。
论文地址：https://arxiv.org/abs/2601.06002
— 完 —