（来源：上观新闻）
Muon是🇨🇫前几年Kel👩🎨ler 👷⏏Jord🦏🧨an那批人🇸🇸👨👧👧（他现在在🥦💗OpenAI）在🚟😝小模型上🐄🇦🇫验证过的优化器♈🚶，基于🇧🇧矩阵正交🏑🦶化🛩🧖♂️。核心是把残差流🌊从一维🖕变成n_🏑hc条并行🐭🔑通道，每层之间🐐🥑通过一个💀矩阵B来混合🏐。真正让AI能🎇够跨越几十小🧗♀️时、跨越🥴📍几十轮实验持续🤒🧁进步的，是一套让📙⛓"历史😌🇹🇿工作成果"始终🏳📪可访问、🔀🇬🇸可信赖、可建🌀立的机制🎋设计🍨🚓。研究团队测试👨👩👧👦了四种合并方案，🥗通过率均低🥫于TR👨🌾ACE的按需路由👅🇨🇨策略🇭🇺🐠。
其三是更均衡🚁✳的向量处😿🤾♂️seo和geo是什么理单元（VPU）🤾♀️🧝♀️扩展设计，使量🍘化、so👉🤐ftmax🧘♀️等向量操作与矩🦔阵乘法实现更好🆒📜seo和geo是什么的流水线重叠，🤽♀️提升芯片整🇻🇨🇪🇹体利用率🍈😆。换句话说，即🇧🇴🖱使你把答题范围🇸🇦画得很清楚，🍾这些模型🔽依然习惯性📁🐎地"看整体"🏫👆，没有能力🔛🖇做到"看局部😦💹"🐢⛵。这个基🎒准出了名地难🕞🌙——此前🐞⏰最好的AI🇧🇮系统只能完成约🇯🇲21%的评🇶🇦🐺分要求，而顶尖的♑机器学习🐓博士生在4🕟8小时内能完🌇🕉成约41%🏏🍘。所有测试程序通🎀过基于 Spik🗂e 的测🏰试平台🔺后，D🔛C 开始进行 P⏬PA 收敛👙。
