（来源：上观新闻）
202🤡🏈5年，M🤬🇵🇸oonshot🇸🇲5️⃣用Muon（7️⃣🖲加上他们自🐻💽己的Q🇸🇾K-Clip变⬛💞种，合称Muo⛹️♀️🎞nClip🇬🇳）训了🌀一个1T参数的M🀄🇩🇰oE，🇰🇪🙆♂️15.5T 🍀token，全👯🎹程零崩溃🇵🇸♏。走出会场，🤺早晨的🥙阴霾已被一👨👦🎥轮骄阳替代🥵🖱。我认为仍然需要五🇹🇳到十个人，而且🧫他们必须🧙♀️🇬🇩是不同领域的专💬☺家，”R🔭avi🧞♂️🎹 Kri🐙shna说道🗝。它的思路是直🏳接扔掉那个不👨🚀🥎靠谱的打分员，🇧🇳泛域名是什么意思改用一种"横🇮🇹👝向比较"的👦🤑方式：🌗对同一道题，让A💏I同时生成😩🌖一批答案🏵🇸🇩泛域名是什么意思（通常是8个🚙🚈），然后💷🇱🇺以这批答案的平🌼均得分作为🈸🐌基准，那🚁些比平🥀🇼🇫均水平🦕👈好的答案就得到🍗✍奖励，差的就受到🇨🇼惩罚🇬🇾。
这套模式🚬🖼之所以能🇦🇷👩🚒跑通，就🇸🇮🐖在于AI工🥍具不仅降低了🧤制作门槛，还把成🍽💆本压缩到前所未🚪有的低点🚱。研究团🔁⏭队还测试了🇦🇩🇱🇷两个基线方法作🇹🇰🕙为参照：⬇😼线性探针（在 🌎👨🎨DIN🤐🇿🇲Ov2 特征上直🇧🇸🇨🇽接套一层线性分类🕤🤺器）和注意🤠力探针（在🔵🌌 DINOv2 🦡特征上套一个🌯🦊带交叉注💡🔏意力的 T👖➡ransfo⛽rmer🥄 模块）🛅🚫。一些细节微💂♀️调包括，affi😙nity sc🤼♀️ore的👩👩👦👦🚯激活函数♒🇸🇴从Sigmo😏id换成➰了Sqrt(So📊🧵ftplus(🍟·))，去掉⛏了rou✝ting ta🇭🇷rget n🚽🍴odes的🧽🎸数量约束，前几🌲层dense F🤢⛩FN换成了🇱🇦用Hash 🥒rou🍵ting的Mo🧙♀️🥘E层🏋️♀️🦴。
