（来源：上观新闻）
2025年🇸🇱，Moonsh🤩ot用Muon（☃🐡加上他们自己的Q👁️🗨️⏺K-Cl⛵🤸♀️ip变种，合称M🇲🇦🌍uonCli🐆🧨p）训了一个1T♊⛔参数的MoE，💼15.5T t🇹🇷oken👩👧🖋，全程👎零崩溃🇹🇬🇵🇭。Verkor.🇱🇸⛵io的🍌联合创💚始人Sures🕉h K0️⃣💙rishna表示🧟♂️⛪，团队➰🚾的核心论点是，这🏋🔍种方法比仅在整体🇻🇦设计流程📼👽中使用专门的 A🔘I 系统来完成🏍🧞♀️特定任务更有🍙🐓效♨。
整个CSA等于做🐊🦂了两层压缩🔃。这句话的潜🥐台词，谁都听得🔀🧣懂🤜♻。标准PPO从基础🛍🇳🇴模型的52🏍💇.49分提升到🤲🐕56.44分🇨🇬，进步🥞明显但并不突⛑👚出⏯😹。压缩过程也没🔮有CSA那样ℹ🔄的ove🇷🇴rlap，直接每🌶🕯m’个一组压🚏⚗。一个月后👩⚖️🐲，马斯克宣布🛎SpaceX将🦓😓收购xA🌼🔒I，后者正花⏮🧗♂️费数十亿美🤑元投资AI研🇲🇵发🛍↘。好处是，它让信息♾️🛰完整、📒可追溯，😨⛑但用户使用🎑越久，记🇬🇶🚳忆规模越膨胀，不6️⃣准确、不相干的🌃8️⃣数据噪↗🖱声也就🤸♀️🙄越多，调用时的T🧡🌆oke🔨🦷n消耗量也随⚒👭之飙升，检索精度🐂、响应速度🇦🇽⛺也会受😋到影响🈳。
