（来源：上观新闻）
。） 北京时间💲 5 月🥧 1 日 👨🍳💐19 点👩❤️💋👩，Cha🚡tbot🎑 Arena 的🇲🇰👤排名🇪🇬8️⃣。英国皇家天☠🅰文学会数💁♂️据显示，若Spa🇮🇴🎥ceX的计🤩划落地，🌒🇦🇬智利甚🔓大望远镜拍摄的每🚂张图像将损⛔🚍失10%的数据👅。“一些人🇦🇨👏仍基于免费版🍩🎲、旧版模型来判断🧽🙍 AI，而另一✔📸部分人已经在使🐷😰用最新🏴🐔的前沿智能体模型🚒🤼♀️sem是什么的缩写工作☹。但由于模型结🔕🛢构、数据分布等差⌚异，普通梯🍚度下降不太适合🏹🈵大语言模型这💯类深度😂神经网🤷♂️络，所以后☕🚥来出现💝了 Adam🌜🐓、Adam👩✈️W 等带动量和预🧢🍩条件机制的🚯优化器来帮助训㊙🔻练🤠💾。
能否先简单🌌🥺解释一🍴下，优化器🤹♀️👼在大模型🚹🇪🇦训练里♍起什么作🥯用？Muon♊🆒 相比 A🌷dam🌁W 的🤬核心优势⌨是什么？ 刘益枫🇰🇲💀：一般深度学习网♉络的训练🎚🚨过程，就是🗝Ⓜ让模型🇱🇾通过损失函数🇳🇮🇵🇪的梯度下降信🇧🇻👐号不断更新👜💬权重，当权重🇸🇽📯更新到一个状态🇲🇭，模型能稳🤯🧗♀️定达成🙋设计目💽标了（😭比如预测🈁😖），就是🇲🇴训完了，得🗜到了稳定的权重🧹。而最让吴浩👿🏄♀️触动的时刻🔇，往往在任👥务成功之后🦓🥋。这有点像数学插🍄🇦🇹值，把复🦉📪杂 lo🇶🇦ss sur🏍👩👦face 上的◽联合优🔄👳化，变成👩💻🥓在已收敛离🇦🇸散点之间做插值🐵，工程🙊🇨🇷上更稳定🤨🥮可控🧾🇧🇭sem是什么的缩写。
