上交大与蚂蚁集团联手破解AI"考场作弊"难题

上海交通大学与蚂蚁集团联合研发的上交手破最新研究成果，以预印本形式于2026年7月1日发布于arXiv平台。大蚂该论文编号为 arXiv:2607.00461，蚁集题为《Multimodal Continuous Reasoning via Asymmetric Mutual Variational Learning》（通过非对称互变分学习实现多模态连续推理）。团联题如需查阅技术细节，场作可直接搜索该论文编号获取全文。弊难

一、上交手破突破“语言空间瓶颈”：从强迫AI用文字思考说起

想象一位画家，大蚂其思维核心在于色彩与线条的蚁集直觉表达。若强制要求画家先将所有视觉意象转化为文字描述，团联题再依据文字作画，场作必然导致色彩渐变、弊难空间层次等关键信息的上交手破严重流失。

当前多模态大语言模型（MLLMs）正面临同样的大蚂困境，研究团队将其定义为“语言空间瓶颈”。蚁集现有AI在处理图像时，被迫将高维、连续的空间推理步骤压缩为离散的文字序列。这种“翻译”过程导致信息衰减，进而引发AI产生“幻觉”（虚构图片中不存在的细节）或推理逻辑偏离视觉事实。

为此，研究团队提出了“非对称互学习变分学习”（Asymmetric Mutual Variational Learning, AMVL）。其核心创新在于：允许AI在一个高信息密度的连续隐藏空间（Latent Space）中进行推理，而非将其转化为文字。这相当于让AI直接在脑海中“调色”，而非通过描述颜色来作画，从而保留了视觉感知的完整性。

二、揭示致命弱点：训练中的“参考答案作弊”

在深入AMVL机制前，必须理解此前连续潜在推理方法失效的根本原因——“答案泄漏”（Answer Leakage）。

1. 考场作弊的隐喻

设想学生解题训练分为两种模式：
* 考试模式（先验分布）：仅能看到题目，需独立推理。
* 对答案模式（后验分布）：同时看到题目和标准答案。

训练逻辑通常要求“考试模式”模仿“对答案模式”。然而，当拥有答案时，模型极易产生“答案依赖”，即直接背诵答案而非理解过程。这种依赖在训练阶段被掩盖，因为模型能完美复现正确轨迹；但在真正推理（无答案）时，这种被污染的推理模式彻底失效。

2. 数学层面的“先验污染”

研究团队建立了严格的数学理论证明：
* 后验分布（已知答案）在推断隐藏状态时，会包含基于答案的偏移量。
* 标准ELBO训练（常用变分推理方法）迫使先验分布（未知答案）去模仿这个被污染的后验分布。
* 结果导致先验分布吸收了答案相关的偏见，即“先验污染”。

定义“先验污染量”正比于答案带来的平均偏移向量模长。这种训练与推理的不匹配，是此前所有尝试未能理想化的核心症结。

三、AMVL的双重约束机制：双向校准

为了解决“答案泄漏”，AMVL设计了“双向校准”机制，从两个方向同时施加约束，建立动态平衡：

1. 前向KL对齐（Forward KL Alignment）

• 作用对象：先验分布（考试状态）。
• 机制：引导先验分布向“对答案状态”（后验分布）的推理方向靠拢。
• 技术实现：采用停止梯度（Stop-Gradient）技巧，确保仅更新先验参数，后验作为固定的“教师”提供指导。
• 目标：让AI在推理时，思路方向与理解答案后的逻辑一致。

2. 反向KL正则化（Reverse KL Regularization）

• 作用对象：后验分布（对答案状态）。
• 机制：限制后验分布不能偏离先验分布太远，确保“对答案”时的推理范围在先验可触达的范围内。
• 技术实现：同样使用停止梯度，仅约束后验参数。
• 目标：防止后验过度依赖答案走捷径，避免推理模式进入先验无法覆盖的“次元”。

3. 数学优势与理论证明

研究团队在论文（命题C.4）中证明：
* AMVL的“答案泄漏系数”等于标准ELBO泄漏系数除以 $(1 + \lambda)$，其中 $\lambda$ 为反向KL权重。
* 只要 $\lambda > 0$，先验污染程度必然低于标准ELBO训练。
* 改善程度随反向KL权重增大而单调递增。当后验越“自信”（方差越小，即越依赖答案）时，反向KL的纠偏效果越强。

四、工程落地：基于Qwen2.5-VL-7B的实现

理论需落地，研究团队将AMVL嵌入Qwen2.5-VL-7B-Instruct模型，改造过程轻量且克制：

1. 架构设计

• 潜在槽（Latent Slots）：在输入文本与目标答案间插入 $k$ 个特殊占位符（Latent Tokens）。
• 分布建模：先验与后验均建模为对角高斯分布（Diagonal Gaussian Distribution），各潜在变量独立，由均值和方差参数化。
• LLM原生变分头：复用底层语言模型的RMSNorm和SwiGLU组件，仅增加极少参数量。同一变分头共用，区别仅在于输入是否包含答案。

2. 采样与生成

• 重参数化技巧：通过 $z = \mu + \epsilon \cdot \sigma$ 采样，确保梯度可反传。
• 潜在注入：采样后的潜在变量经“潜在注入器”映射回隐藏维度，替换占位符嵌入，驱动模型生成答案。
• 训练/推理差异：训练时从后验采样（已知答案），推理时从先验采样（未知答案）。

3. 计算效率

对角高斯分布使得前向KL和反向KL拥有封闭形式解析解，无需蒙特卡洛采样，计算高效稳定。
* 默认配置：潜在槽数量 $k=8$，维度 $d=512$（经消融实验验证最优）。

五、训练稳定性策略：非对称KL调度

为避免双向约束导致训练震荡，研究团队设计了“非对称KL调度”策略：

1. 前向KL权重：从0线性增长至1.0（前2000步），让先验先建立对后验的基本追踪能力。
2. 反向KL权重：延迟启动，前1000步为0，随后线性增长至0.5（再2000步）。
3. 策略逻辑：“先校准，后约束”。避免在先验薄弱时强行约束后验导致的过度正则化。

训练配置：
* 损失函数：下一词预测损失 + 前向KL损失 + 反向KL损失。
* 硬件与优化：16块NVIDIA A100 GPU，运行约20小时。使用AdamW优化器、bf16混合精度、梯度检查点及余弦学习率调度。
* 数据源：Visual-CoT, ReFocus, CogCoM, Zebra-CoT 四大互补数据集，覆盖细粒度视觉定位至复杂多步逻辑推断。

六、实验结果：性能显著提升

研究团队在三大类基准上验证了AMVL的有效性：

1. 细粒度视觉感知（V*, HRBench4K, HRBench8K）

• 表现：AMVL平均得分 74.97，较基础Qwen2.5-VL-7B提升 5.57分。
• 对比：超越DeepEyes、PixelReasoner等像素级推理方法，以及LVR、Mull-Tokens等连续潜在推理方法。
• 亮点：在V*上提升7.85分，在HRBench8K上提升4.75分。

2. 复杂视觉推理（BLINK基准）

• 表现：平均提升幅度高达 10.83分。
• 亮点：
• 拼图任务（Jigsaw）：得分从45.33跃升至 77.33（提升32分），展现卓越的空间拓扑理解能力。
• IQ测试：提升12.67分。
• 多视角推理：提升14.29分。
• 对比：综合表现优于Mull-Tokens等其他方法，尤其在需要深度空间认知的任务上优势明显。

3. 分布外泛化测试（VisualPuzzles）

• 表现：AMVL（7B参数）得分 33.90。
• 突破：超越参数量达720亿的LLaVA-OneVision-72B（得分30.80）。
• 意义：证明AMVL学到的推理能力具有真正的泛化性，而非过拟合，小模型在未见任务上可击败超大模型。

七、消融实验：验证设计必要性

1. 双向校准缺一不可

• 仅前向KL：后验无约束，可漂移至先验无法覆盖区域。
• 仅反向KL：先验无引导，无法学习有效推理状态。
• 完整AMVL：性能叠加，V*得分达84.29，显著优于单一方向或纯NTP训练。

2. 调度顺序至关重要

• 前向先启动（V84.29）优于 反向先启动（V80.63）。印证了“先建立对齐，再约束漂移”的设计逻辑。

3. 超参数敏感性

• 潜在槽数量：$k=8$ 优于 $k=4$ 和 $k=16$。过多槽位导致信息稀释和收敛困难。
• 潜在维度：$d=512$ 优于 $d=768$。过度参数化增加优化负担。

4. 变分头架构

• LLM原生变分头优于线性头、标准MLP头及更深版本。保持架构一致性有助于与主干网络协同。

5. 停止梯度的关键性

• 移除任一停止梯度均导致性能下降，尤其是移除后验的停止梯度。证实了“教师-学生”单向信号传递的核心地位。

八、可视化分析：潜在空间在思考什么？

1. 视觉定位分析（遮挡法）

• 不同潜在标记关注图像不同区域，且与问题内容高度相关。
• 例如：询问摩托车颜色时，标记聚焦于摩托车区域；询问梳子时，焦点转移。
• 形成从粗到细的视觉抽象序列，而非重复关注同一区域。

2. 几何结构分析

• 余弦相似度：相邻标记相似度高，远离标记相似度低，形成平滑推理轨迹。
• 鲁棒性测试：打乱图片比打乱文字对潜在表示影响更大，证明推理空间根植于视觉输入，而非文字捷径。

3. 分布扩散度对比

• 纯NTP训练：先验与后验扩散度最大，配对L2距离高达16.95，余弦相似度为负（-0.019），呈现混乱的“作弊”状态。
• 加入反向KL：扩散度下降，距离缩短至3.70，但缺乏前向引导导致性能未达最优。
• 完整AMVL：先验扩散度（0.68）略高于后验（0.83），保持表达能力；配对L2为5.43，余弦相似度0.89，实现表达力与兼容性的最佳平衡。

总结与展望

AMVL的核心价值在于：让AI在私有的、高密度的连续思考空间中酝酿推理，而非被迫将思维“翻译”为文字。这种机制更接近人类解决空间推理时的直觉画面（图形旋转、拼接、比较）。

核心启示：
训练与推理之间的鸿沟往往深于预期。当训练时模型拥有推理时缺失的信息（如答案）时，无约束训练会导致模型依赖这些信息，推理时则因信息缺失而失效。AMVL通过双向约束填补了这一鸿沟。

局限与未来方向：
1. 规模验证：当前实验限于7B参数模型，需在70B+大模型上验证有效性。
2. 高阶统计量：目前理论聚焦于后验均值层面的泄漏，对方差及高阶统计量的泄漏尚待深入研究。

Q&A

Q1：AMVL解决的“答案泄漏”问题是什么意思？
A：答案泄漏指AI在训练阶段，推断中间推理状态的模块（后验分布）因能看到标准答案，从而依赖答案走捷径而非基于输入独立推理。训练过程又要求推理模块（先验分布）模仿这一被污染的后验分布，导致先验被“污染”。在真正推理（无答案）时，被污染的先验因缺乏答案支持而失效，造成严重的训练-推理不匹配。

Q2：AMVL中的前向KL和反向KL分别在做什么事？
A：
* 前向KL：负责让先验分布（推理时）学习靠近后验分布（训练时）找到的推理状态，类似于学生参考老师解题思路后调整自己的方向。
* 反向KL：方向相反，约束后验分布不能偏离先验分布太远，防止后验过度依赖答案导致推理模式进入先验无法覆盖的范围。
* 两者配合，使训练和测试时的推理模式相互靠拢，而非越走越远。

Q3：AMVL在BLINK基准的拼图任务上提升了32分是真的吗，这是什么概念？
A：是的，这是真实的实验结果。基础Qwen2.5-VL-7B在拼图任务上得分为45.33，AMVL提升至77.33，提升约32分。拼图任务要求AI理解图片碎片的拓扑关系，极度依赖空间感知而非语言表达。这恰好是连续潜在推理的优势场景——无需将空间关系转化为文字，直接在连续空间内推理，避免了信息流失，从而实现了显著的性能飞跃。

(责任编辑：热点)