ACL 2026收录！腾讯混元发现LLM不完全学习现象，超15%训练样本沦为SFT学习盲区

腾讯混元投稿 智猩猩AI整理 在大模型训练范式中，一个长期默认的假设是：只要SFT loss收敛，模型就已经“学会”了训练数据。但这篇ACL 2026的研究直接挑战了这一点。 团队在Qwen、LLaMA、OLMo2等多个模型上进行系统回测后发现，即使训练完全收敛，模型在训练集本身上仍然会稳定出错一部分样本。这种现象并不是偶然噪声，而是跨模型、跨任务稳定存在的结构性问题。 更关键的是，这一比例非常稳定——在10个标准SFT数据集上，平均有15.3% ± 2.1%的训练样本在训练结束后仍无法被正确复现。论文将其定义为 Incomplete Learning Phenomenon（ILP，不完全学习现象）。 这一发现直接改变了一个基础认知：SFT并不是“完全学习机制”，而更像一种“部分吸收系统”，存在稳定的学习盲区。 围绕这一问题，腾讯混元联合UNSW进一步提出了一套完整的诊断与修复框架，用于定位未学习样本的来源并进行针对性干预。在多个任务上，该框架带来了显著提升，CPT在MedQA上提升+12.5%，数据冲突处理带来+2% 2.8%增益，而训练调度优化甚至带来高达+29% ROUGE L提升。 论文标题： Why Supervised Fine Tuning Fails to Learn: A Systematic Study of Incomplete Learning in Large Language Models 论文链接：https://arxiv.org/pdf/2604.10079 01 方法 整体方法的核心并不是提出一个新的模型结构，而是构建一个“训练后反推学习状态”的诊断框架，用来回答一个关键问题： 哪些训练样本其实从未被模型真正学会？ 一、未学习样本检测 整个流程从完成SFT训练的模型开始，对原始训练集开展回测评估，如图1所示。 图1 Incomplete Learning Framework 由于原生SFT多为开放式文本生成任务，难以量化评判，研究将 所有样本统一转化为多项选择题， 保留原正确答案作为唯一选项，额外构建语义相近的干扰项，把开放式生成转化为可量化的离散判断任务。 评估环节摒弃单次推理结果，采用 多次采样（pass@N） 方式，以输出稳定性作为判断 “是否学会” 的核心标准。实验设定规则，当样本的pass@5数值小于0.2 时，直接判定为 未学习样本 。 依托这套检测标准，研究在多款模型与数据集上得到稳定结论：平均约15.3%的训练样本无法被模型稳定习得，且扩大模型规模也无法明显降低这一比例。该现象在各类任务中普遍存在，并非数据偶然，而是SFT机制自带的结构性特征 图2 未学习样本示意 二、未学习样本归因分析 检测出未学习样本之后，论文进一步对其进行归因分析。如图3所示，将其归纳为五类来源：包括预训练知识缺失、预训练与SFT目标冲突、SFT数据内部语义冲突、训练顺序导致的遗忘，以及优化不足导致的长尾样本未收敛。 图3 ILP归因框架 这些问题并不是独立存在的，而是在不同样本中叠加出现。例如知识缺失类问题本质上无法通过SFT解决，而冲突类问题则会导致梯度方向相互抵消，进一步降低学习效率。 三、针对性修复策略 针对五类成因，研究设计了分层策略体系，逐一解决不完全学习问题： （1）对于知识缺失与冲突问题，引入Continued Pre Training（CPT）进行底层知识补充； （2）对于数据内部冲突问题，则采用动态分桶策略，将潜在冲突样本隔离训练而不是直接删除； （3）对于训练顺序导致的遗忘问题，则通过全局shuffle与动态重采样缓解； （4）对于优化不足问题，则通过自适应延长训练epoch提升长尾样本学习效果。 02 实验结果与分析 一、实验设置 实验选用Qwen、LLaMA2、OLMo2多款主流大模型作为基线模型，覆盖 7B、13B 等不同参数量规格；数据集涵盖医疗、法律、金融、常识、科学推理、文本摘要等多类公开基准数据集，通过多组对比实验、消融实验，全面验证各优化策略的实际效果。 二、基座知识缺陷修复实验 本组实验对比单纯增加 SFT 训练轮次与持续预训练+SFT两种方案。 表1 增加SFT轮次与持续预训练效果对比表 仅将SFT轮次从2轮提升至10轮时，各数据集知识覆盖率提升幅度极小，MedQA 从65.3%仅升至66.8%，LegalBench 从62.5%升至63.8%，足以证明 单纯拉长微调时长，无法弥补基座模型的知识盲区 。 而采用持续预训练（CPT）后效果实现大幅跃升，MedQA知识覆盖率达到 82.1%，TechFAQ提升至83.6%，所有专业数据集的准确率、pass@10指标均提升8个百分点以上。 该结果证实，针对模型原生知识缺失问题，必须依靠持续预训练补充外部知识，仅依靠SFT无法填补深度知识漏洞。 图 4 持续预训练（CPT）性能提升效果图 三、预训练与SFT知识冲突修复实验 本组实验依托ARC、CommonQA、SocialIQA、MedMCQA四类数据集，统计CPT处理前后模型的 知识冲突率 与整体准确率。 表2 CPT 前后模型准确率对比表 表3 CPT 前后知识冲突率变化表 数据显示，所有模型经过CPT校准后，高置信知识冲突率均显著下降，降幅普遍在 2.5 4 个百分点。同时模型整体准确率实现1.6% 2.8% 的提升，充分说明 CPT 可以有效消解模型的固有错误认知，调和预训练知识与微调信号之间的矛盾。 四、SFT 数据集内部冲突消融实验 实验设置三组对照方案，原始数据直接训练、直接删除冲突样本、冲突样本分桶处理。 表4 数据冲突不同处理方案效果对比表 以Qwen 7B为例，原始基线准确率为82.3%直接删除冲突样本后，准确率仅提升1.5个百分点，不仅收益有限，还会丢失大量有效数据； 而 动态分桶策略 最终将准确率提升2.2个百分点，达到84.5%。LLaMA 系列模型也呈现出一致规律，分桶策略的效果远优于粗暴删除数据。这表明处理数据内部冲突，最优思路并非丢弃样本，而是隔离冲突内容、规避批次内的信号干扰。 五、左侧遗忘缓解实验 本组实验基于文本摘要数据集开展，采用ROUGE L作为核心评估指标，重点统计训练集前 10%、中间部分、最后 10% 样本的效果变化。 表5 不同位置样本ROUGE L得分变化表 未优化前，训练前期样本的ROUGE L得分仅为0.41；使用全局打乱+动态重采样策略后，该指标上涨至0.53， 提升29% ，对早期样本遗忘问题的改善效果十分突出。训练中段样本指标仅提升 3.5%，最后10%样本得分轻微下降 1.6%。 六、复杂样本优化不足实验 针对长尾、结构复杂的样本，实验对比固定轮次训练与 渐进式轮次递增 策略。 表6 多类问题优化后整体准确率对比表 四款基线模型经过自适应训练轮次优化后，准确率统一提升1.8% 1.9%，且未出现过拟合现象。 七、多策略综合效果与问题分布 整合五大优化方案后，各模型在混合数据集上均收获稳定性能增益： （1）解决数据内部冲突后，模型准确率提升2.5% 2.9%； （2）缓解左侧遗忘问题后提升1.2% 1.5%；补足训练优化短板后提升1.8% 1.9%。 表7 五类不完全学习问题占比统计表 从不完全学习问题的分布来看，基座知识缺失占比18.7%、预训练知识冲突占比13.2%、数据内部冲突占比14.1%、左侧遗忘占比17.4%、优化不足占比14.6%。 03 总结 从实际落地视角来看，这篇研究打破了大模型微调领域的固有思维：过往大家一味追求提升测试集泛化能力，却忽略了最基础的问题 ——模型连训练数据都没能完全学会。 而不完全学习现象并非单一原因导致，知识缺口、认知冲突、数据瑕疵、训练顺序、优化策略五大问题相互交织，这也是常规调参、增加训练轮次收效甚微的核心原因。 该研究最大的价值，是搭建了一套从检测、溯源到针对性修复的全流程工具链，不再用 “一刀切” 的微调方案应对所有问题。它提醒从业者：评估 SFT 效果不能只看整体准确率，更要下沉到单样本，定位 “顽固学不会” 的样本并区分根因。 同时实验也揭示了现实取舍，持续预训练等修复策略虽能解决微调学习缺陷，但可能短暂影响模型通用能力，这也为后续工程落地指明方向。 未来大模型微调，必然会从 “追求整体指标” 走向 “精细化样本诊断 + 定制化修复”，而本文的研究成果，正是这一转型路上的重要基石。 END ✦ ✦ 2026中国AI智能体大会 ✦ 智猩猩主办的 2026中国AI智能体大会 7月2 3日杭州举行，大会设有开幕式，企业级AI智能体、AI智能体产品创新 2场论坛 ，以及Coding Agent、自进化智能体、深度研究智能体、Computer Use Agent、多智能体协同、Agent Skills、Agent Harness 7场技术研讨会 。 最终议程已公布。 ✦ ✦ 入群申请 ✦ 关注+星标，获取AI前沿进展与优质开源项目