（来源：上观新闻）
Muon优化⛵器 V4训练中🚼绝大多数🤽♂️😇参数优化用的不🦹♀️是Ad🦠amW，是M🌗😸uon👩👩👧。与此同时，"🌥🥍条件推理"、"🔉数值计算"、"早🦸♂️期终止"等其他🇹🇫🦍候选能力🕍👨👨👦👦只出现了少数几🍽次，无法通过筛🐏选阈值，说明它📄们虽然🦑偶尔出现在🍋↙失败案例中🇻🇦，但并不是区📺🍙分成败的关键因素🏬☃。
因为KV en🧘♀️⛔tries㊗👩🎨既做key😍⌛又做va🚇lue，🚲🏌️♀️naive👨🎓🇧🇶的RoPE会让🔴输出带上绝对位置🇲🇸😠信息，所以在o🇬🇭utput端也对👩❤️💋👩🧳应施加一个位置✏为-i✨的RoPE🐠来抵消，🕉只保留相对🧿位置信🇲🇷息🧗♀️🚗。可见商业大模型👨🎤在这项任🕦💀务上确实👝比随机猜测强得多🦌🚑，但与专🤼♂️为此设计的 🚎PAN🐭DA 相比仍有相🧬✖当差距👨⚖️。
评分维度包😸括代码质量🔙😨、能否成🚥功运行，以及🍤结果与论文的吻🤼♂️🔂合程度☃。而更重要的💳😴是，W👇ALL-🤟B的“🇨🇬二级域名和三级域名的区别与世界🅿🇪🇭交互”能力，开启🖲🥙了一个🏦🥵自我强化的数据飞🥔轮： 进入真实家😟庭 → 产生真🇧🇷✍实数据 → 🌃模型自我进化🇺🇾⚪ → 能力更📯🏳强 → 进入更多🍔🤱家庭 这🦁个飞轮一旦启动🇲🇪🇧🇸，数据本🎇🇰🇲身就成为了模🤛🇸🇪型进化的燃😲💁料🇦🇲👱♀️。
