7B小模型+3.8万条训练数据，就能让音频理解和推断评测基准MMAU榜单王座易主？

　　受到DeepSeek-R1中强化学习算法的启发，小米大模型团队对阿里的Qwen2-Audio-7B模型进行了微调。

　　结果模型在MMAU上的准确率从49.2%提升到了64.5%（涨幅31%），比以前霸榜的GPT-4o还高出近10个百分点。

　　MMAU是一个由一万条涵盖语音、环境声和音乐的音频样本构成的评测基准，难度非常高，人类专家的成绩为82.2%。

　　来自阿里的Qwen2-Audio-7B模型在此评测集上的准确率为49.2%，经小米大模型团队用清华大学发布的AVQA数据集，使用SFT微调后提升到了51.8%。

　　这样的提升并不明显，而当小米团队选择改用DeepSeek-R1的GRPO算法时，发现获得了巨大的性能提升，一举达到了MMAU的新SOTA。

　　目前，小米大模型团队已经把训练代码、模型参数开源，并提供了技术报告、在线B小模型拿下MMAU榜单SOTA

　　如前所述，小米大模型团队通过SFT，使用清华AVQA数据集对选择了来自阿里的Qwen2-Audio-7B进行了微调，成绩提升了2.6个百分点。

　　在同一时间，卡内基梅隆大学发布的预印本论文（arxiv：2503.01067），通过精巧的实验得出了一个有趣的论断：

　　当任务存在明显的生成-验证差距（Generation-Verification Gap），即任务生成结果的难度远大于验证结果正确性的难度时，强化学习比起有监督微调具有独特优势。

　　离线微调方法，如SFT，有点像背题库，你只能根据已有的题目和答案训练，但遇到新题可能不会做；

　　而强化学习方法，如GRPO，像老师在要求你多想几个答案，然后老师告诉你哪一个答案好，让你主动思考，激发出自身的能力，而不是被“填鸭式”教学。

　　当然，如果训练量足够，比如有学生愿意花很多年的时间来死记硬背题库，也许最终也能达到不错的效果，但效率太低，浪费太多时间。

　　而主动思考，更容易快速地达到举一反三的效果。强化学习的实时反馈可能会帮助模型更快锁定高质量答案的分布区域，而离线方法需要遍历整个可能性空间，效率要低得多。

　　令人惊喜的是，在仅使用AVQA的3.8万条训练样本的情况下，强化学习微调后的模型在MMAU评测集上实现了64.5%的准确率，这一成绩比目前榜单上第一名的商业闭源模型GPT-4o有近10个百分点的优势。

　　有趣的是，如果在训练中强制要求模型输出包含thinking标签的推理过程时，准确率反而下降至61.1%。这说明显式的思维链结果输出可能并不利于模型的训练

　　关于微调方法：强化学习在3.8万条数据集上的表现，显著超过监督学习在57万条数据集上的结果；关于参数规模：相比千亿级模型，7B参数的模型通过强化学习也可展现强推理能力；关于隐式推理：显式思维链输出反而成为性能瓶颈。

　　小米大模型团队表示，在当前的实验中，强化学习策略还是比较粗糙，训练过程对思维链的引导并不充分，我们会在后续做进一步探索。

　　此次实验验证了强化学习在音频理解和判断领域的独特价值，也为后续研究打开了一扇新的大门。

　　小米团队期待，当机器不仅能“听见”声音，还能“听懂”声音背后的因果逻辑时，真正的智能听觉时代将会来临。

　　它通过一万条涵盖语音、环境声和音乐的音频样本，九游娱乐官网结合人类专家标注的问答对，测试模型在27种技能，如跨场景推理、专业知识等应用上的表现，期望模型达到接近人类专家的逻辑分析水平。

　　面对一段汽车行驶中的座舱录音，AI 能否判断出汽车是否存在潜在的故障？在交响乐演出现场，AI 能否推测出作曲家创造这首音乐时的心情？在早高峰地铁站混乱的脚步声潮中，AI 能否预判闸机口可能发生的冲撞风险？

　　在大模型时代，人们已经不满足于机器仅仅识别说话的内容、声音的种类，更期望机器具备复杂的理解和判断能力，MMAU衡量的就是这种能力。

　　这是一个很难的评测集，作为基准上限，人类专家在MMAU上的准确率为82.23%

　　03月12日,两岸媒体人走进聊城共探“两河之美”,第一，树立一个信心：我能我行

　　03月12日,大连新机场命名为大连金州湾国际机场,(一)要加强思想政治建设。我们要结合新形势新任务提出的新要求，以打造忠诚型、创新型、学习型、团结型、九游娱乐官网务实型、廉洁型“六型”领导班子为目标，以开展“解放思想、赶超跨越”大讨论活动、“干部作风转变年和工作落实年”活动为抓手，突出抓好乡(镇)村两级领导班子思想政治建设，努力建设善于领导科学发展、促进社会和谐的坚强领导集体，带领广大、干部、群众努力完成上级下达各项任务的重任。

　　03月12日,（文化中国行）“老无锡”家门口见证中华文化活化与传承,企业开张典礼领导讲线,正规真钱平台,什么网站赌博,ag线日,满怀信心 接续奋斗,

　　03月12日,重庆奉节启动草堂湖岸线及消落区整治 助力打造世界知名旅游目的地,

　　03月12日,不要小看中暑 重症可能致死 防范手册快收好,“与我无关，我觉得这件事可能是石子陵做的。”雨蒙一进来，就这样说道，奉了族中宗老的命令，要想方设法洗脱。,下载澳门金牛网站,爱体育登录首页,最新传密绝杀6肖。

　　冬训是否能够常抓常新，始终保持生机和活力，被参训党组织认可、广大期盼，人民群众欢迎，关键在于能够顺应时代发展要求和实践需要，把准干部思想脉搏，不断创新内容、方法、机制，走出了一条干部经常受教育的可持续发展路子。

　　03月12日,航拍宁夏｜探秘红寺堡,雨蒙面白无须，不发威时，没有一般强者的凌厉，九游娱乐官网但是此时眼中却凶光毕露，几次想出手将管事干掉。可最后他又犹豫了，杀掉管事亦无用，以石族那么庞大的实力要彻查此地事件，什么都不会遗漏。,九州登录官网,云顶娱乐官网下载,凯时平台登陆。