（来源：上观新闻）
对于线性层这类二↗🇸🇧维参数，🆑💟它本质上是矩🧣阵乘法，🇸🇸Muon 会把整🔑个矩阵作为整体进⛑行归一化🔵和优化，这😐能更好地利👫用矩阵中不🤰同元素之☹间的联系，让🔽🎪矩阵内不🧽🤽♀️同元素的优化步🆗调更一致，进一步🎌🇦🇱提升训练🧧效率和推理能力🗒🏹。
晚点：V4 是🇵🇦🦈不是没有⛅提出什🎡么新的🛎🆘领域能🔫力？ 刘益↖🇲🇪枫：对，这📁👨🚀也是它没有那么令✔人震惊的一点⚔google加速。据徐直军⤵🤐在全联接大会上🇧🇾🌗公布的⏮数据，单看芯片🙏参数，昇🇯🇴腾950和英⭐🎬伟达Ru🕖bin🤹♀️还有差距🔈🇸🇽。
4 月 30🌋👧 日消😦👂息，最近胖东来🖊又上热搜了🇧🇾🛂。五角大楼🏹🈹希望引入🌳多家供应商，📱避免被单一公司锁🇫🇲定🥗🐴。mHC🖤⛰ 和 Att🔔ention 👨👧🇺🇲Residua🧞♀️l 方法不🧩🚑同，但有异🥣🇧🇮曲同工🇲🇬🚕之妙——都🇲🇳是 layer-wise（层级🇨🇳别）地改进信息🇨🇼流⛲0️⃣。
