今天凌晨,姚顺雨和腾讯混元团队现身Reddit社区,围绕本月发布的两款模型Hy4和Hy4 flash举办了一场AMA(Ask Me Anything)。网友在评论区直接提问,团队成员以回帖方式作答。
参与名单只列出了Reddit账号,至于哪个账号对应姚顺雨,目前还没对上号。
这场AMA的主角是混元11月接连发布的两款模型。11月4日发布的Hy4是旗舰,能理解文本、图像和视频,适合长程软件工程这类需要多步推理、反复调用工具的复杂任务。11月16日发布的Hy4 flash主打日常办公的速度和成本,支持图文输入和最长100万Token上下文,每个Token激活约120亿参数。
两款模型都已接入腾讯WorkBuddy。混元团队把WorkBuddy里的修表、改文档、做PPT等典型任务纳入内部评测WorkIndex,按这套评测测算,Hy4 flash的平均单任务成本约为旗舰Hy4的1/20。两款模型的权重均已公开。
Hy4为什么“想太久”,Flash又是怎么训练的?
有网友提到,Hy4正式版和preview一样有时推理太久,问这和强化学习的奖励设计有关,还是和训练数据分布有关,模型能否学会何时停下来。团队回应称,Hy4的目标是尽量提高智能水平,推理链偏长是已知问题;可以把Hy4蒸馏成成本效率更高的Hy4 flash,并在Flash上用强化学习缩短推理链。
被问到后训练阶段最难改善的模型行为时,团队只回了一个词:过度思考(Overthinking)。
关于参数规模,团队认为Hy4还有相当大的提升空间,尤其是在后训练上,正在投入大规模强化学习,同时改善用户体验和模型安全性,并计划训练更大规模的模型。
训练长程Agent任务时,多轮强化学习最棘手的情况是训练环境设计有漏洞,模型会钻空子拿奖励。团队举例说,必须防止Agent直接上网搜现成答案,要让它自己把任务做完。
对于命令行任务中参数编错导致命令出错的问题,团队表示在强化学习数据里加入了模型容易犯错的难例,奖励也做得更细,关键细节出错会扣得更重;长任务方面,正在持续拉长强化学习训练所用的上下文,并提升模型压缩上下文、保留关键信息的能力。
谈到数据判断力,团队称数据质量有很多维度,不同领域、不同任务要求不同,无论用人类专家还是智能体,设计和清洗数据都要花很多功夫,最后还是要做实验看能否带来提升。
关于HyRA 2.0实验,团队表示提升主要来自底层吞吐优化;要让模型进一步参与研发,还得提高它判断训练方案的能力,用AI做AI研发本身周期长、难点多。团队正在做HyRA 3.0。至于递归自我改进,团队称还处于早期,已做了几项内部基准评估关键能力。
Flash的参数花在哪儿了?
有网友问,不算Engram,Hy4 flash主干约1560亿参数,每Token激活约120亿,如果总参数不变、激活参数降到80亿或50亿,效果会掉多少。团队表示做过不同MoE稀疏度的规模实验:固定激活参数量时,提高稀疏度能改善计算效率;但固定总参数再把激活量降到80亿或50亿,预计模型质量会明显下降,因为激活参数量决定每个Token能用多少计算,提高稀疏度只能弥补一部分。
对于Engram为何分配约635亿参数,团队称实验看到一条U形曲线,把Engram计入总参数量、占比在三分之一左右时接近最优点,占比再往下调计算效率会降低。
Flash选择滑动窗口注意力(SWA)的原因,是它能把KV缓存压到原来的约四分之一,显著降低部署成本。
小模型、本地部署和下一步
网友关心的轻量版本有了明确答复:Hy小模型已经在路线图上;Flash-Lite也在计划中,敬请期待;面向24GB显存的模型未来会发布。至于下一代Hy模型是否会做到1.5万亿至2万亿参数,团队表示规模肯定会进一步显著扩大。
本地部署方面,有网友报出96GB显存、128GB内存的配置问能否跑Flash,团队说可以:主要权重和注意力计算放在GPU上,部分专家层可卸载到系统内存,Engram表也可以放在内存里。
有网友反映同一工作任务托管版全对、本地NVFP4版本却出现约8%错误,问模型是否更难量化。团队建议试试用GPTQ量化的NVFP4版本,称在其评测中该版本与BF16差距较小,更适合对准确率敏感的任务。
llama.cpp适配正在做,预计近期在社区放出;团队也在和vLLM、SGLang等社区合作。现有的Hy4 flash还会更新,团队正在优化Flash级模型的预训练和后训练方案。
怎么看模型的表现
对于为何没公布GPQA Diamond、τ-bench、IFBench、SWE-bench等常见评测成绩,团队解释称,他们展示的是Agents’ Last Exam、ProgramBench这类较新、难度更高的评测,而网友提到的几项出现更早,分数已接近饱和。
有网友感觉部分模型写作能力在退步,问是否因为用太多代码训练导致过拟合。团队表示也注意到了,可能和训练目标有关,希望模型写得更像人、少一点套话,这方面正在改进。
One More Thing
想自己试试Hy4 flash,可以打开WorkBuddy,在模型列表里选中Hy4 flash,把手边待改的表格或待整理的会议纪要交给它跑一遍。11月30日前可在WorkBuddy限时免费体验。
参考链接:https://www.reddit.com/r/LocalLLaMA/comments/1y15w4a/tencent_hy_team_shunyu_yao_here_ask_us_anything/





