（来源：上观新闻）
Muon是前🕉几年Kel⏫🇻🇬ler Jor🎃dan那批人（🖋他现在在Open🇧🇭AI）在🆓👕小模型上验证过的🗓优化器，基于👥矩阵正交🤞🛁化🥧👨🏭。。接下来，研究⬜🕞团队为这些图片设📍计了一套完🇾🇹💌整的失真体系🐭🌗。如果这道题答对了💒，每一步都受⏯到同等强度的鼓励👽；如果答错了，每🌾👪一步都受到同等🔶强度的惩罚🗨。在半导体制造中，🙀👨🔬PGME和PG🤬MEA的应🛀用极为广泛，几🛹乎覆盖光刻🥝工艺的全流程📮。
在论文的最后，D🌅eep🇱🇺🚈See🇧🇼k也表示🕖🤟： 为了追求极致📠🥊的长文效率，V4♈🏬系列采🍈取了一个相对🕞👬激进的💈架构设计🇪🇸😣。在To🕷olSan🇨🇲🇨🇮dBox上，Ⓜ🗺系统识别出了两种🤮关键能🚌力薄弱点😚。第三，采用Muo🈁🈳n作为主优化器🥬。研究团↙💲队认为，🇻🇦🍋自主长周期🏑🆎机器学🇩🇪🈺习研究工程本质上🈁🌟是一个🀄🅰**系🏉🚴♀️统协调问题**🛶，而不🦒仅仅是一个**🐴🙉局部推理问题🍬🎿**🦙🐯。
GRPO因为每🀄🐲道题都需要生成🌂🇸🇪8个答案，🤦♀️🥥训练进程推进👨👨👦🇵🇾得很慢🈯🕷。核心是把残差🅿流从一维变成▫⏱n_hc条并🇺🇬行通道😏，每层之👮间通过🦷一个矩👦阵B来混合🧯🏥。这种警觉，🌵很快变成行动🛒🧗♂️。Kimi用Mu🇲🇪on需要QK🌇😢-Cl👨💻ip来防止a🌕🅰tte🅱🎟ntion l🎧ogi🙆♂️ts爆炸，D🈹🍚eepSe⛏ek没用这🆙🖖招❇🎀。
