（来源：上观新闻）
这个部分有什么亮◻🕟点吗？ 刘👍🐏益枫：一个亮📋点是预训练先分🍙裂专家，再做🇬🇹 on-pol☑👈icy di💢stil🔥💿lation⛎🚙（在线🇯🇪策略蒸🏪馏，指在当前模型🐗🔻实际采样🤪分布上🇸🇭🇷🇴进行蒸馏，而🎒不是只依👞🔛赖离线👧固定数据）🎬🛃。两位播客🇸🇧嘉宾，一位😰🍑是 UCLA🇮🇲🚥 在读博士🏄♀️😗刘益枫，他是模👨⚖️👩👧👧型架构背🕔🏸景，曾在🌹🕠 Kimi（月🎁之暗面）和字节🐐 Seed 实😚习，参与 K1🚠🎎.5 研发，👨🎓也自己🇬🇭做过优化器📟🏌️♀️。
晚点：ML🥋A 和🕎 MQA🇬🇵⛲ 的区🇬🇫🇸🇻别是什么😂🇦🇷？ 刘益枫🙋🚸：简单来说，MQ💠A 更接近🖌原始多头🍥注意力（Mu🧣lti-He🕶🕧ad Atten🥏tion）🥉。晚点：R1 当🚊🙈时爆火©🤧的另一个原📘🍭因是，它以开源↘方式验🇿🇦🇲🇵证了测😡🦉试时扩👩🎨展（te🏂😬st-time◀ scali✈ng）的新☑🎖范式🕷🐗。
本案将择期宣🧩判🥶🖱。而同时优化👩👧👦‼目标的个数，是智🥞🇹🇴力上限的体📞现🌑。报料微信🇴🇲关注：ihx👩👩👧👦🕊dsb，💸🇵🇳报料QQ🇸🇲🧺：33✨8640🥍🤛5712】👨🌾📙。据徐直🚵♀️🇳🇦军在全联💓📓接大会🧘♀️🌛上公布的数据🇧🇬，单看芯片参数🇫🇲🧱，昇腾9🚀50和英😻伟达Rub👨🏭in还有差🇷🇸距♍❎。
