（来源：上观新闻）
Muo🇸🇧0️⃣n优化器 V4训🇻🇪练中绝🏤大多数参数优🤾♀️🇨🇰化用的不是A🍣damW，🥇是Muon🗻👩🦲。这句话乍听有🔺些抽象🏉🍀，但用一个🇱🇨👘具体的比🔕方来理💢🐷泛目录站解就清晰多了🤾♂️🐯。谁都想挖掘“🙆♂️‼超级个体”并与之🇧🇫🇨🇺绑定，生怕被甩下🌭🎚。原文如下：🌨 相关阅读👭🇩🇬。由于单次流🇧🇾片的成本可能📇☃高达数千万美元，🕷因此在生产🚅🇳🇮过程中🥥“修复👨👧👦”缺陷是不可接受🐕的🦖。在OpenC🇦🇽law体🤯📃系中，🕎所谓学习，本质➗仍然依赖用户🆖。现在产品从🍥🔟原型到🧫👓给到用🇦🇪🏍户的时🎨🌒间很短，😵能减少在产品理解😙🙋和判断上▪的周期😀🌮。其四足机器人HG🍑🇮🇶系列与轮式双🕦臂机器人Ast👺ro系列已💢👨🦳完成工程化验证🧹🤔，进入批量交🔽🐽付阶段👥🔵。图1展示🇧🇳了一个具体案例：🇨🇱✖在"侮辱性🐺🈳言论检🥏测"这一任务👩🦲🇵🇼上，AI科学家🍯🚒在23小时内🛡自主完成了74👧🐺轮实验，将模型🇧🇫🇸🇴的验证集AUC（📡一种衡👵🐺量分类模型好坏的🏏指标，越接😢🚊近1越好）从👡👨🏫0.903提😷升到了0.98✖2，期间经历了🍀🎃18次"🧀找到更好方案并㊗保留"🇸🇭的关键节点，🐕🍮同时也经历了大量7️⃣🗼"尝试无🚰🦡效果而丢弃"🧗♂️❌的探索过⏩程，全👠🇫🇰程无需人👇🖕工干预🤺。
只对query🌒😤和KV🇵🇭 ent👩🚒ries的最🍪🚣后64🍊维施加旋转位置🐔编码，其🤫🧒余维度👨🏫🇭🇰不动🚊。这一波📋🌴 AI 的演进蛮🖥像 2008 🥭年前后🇸🇿的智能手机🇨🇺🎱。只对quer🚴y和KV en🍚🚛tri🎍es的💇♂️最后64维施加🇨🇮旋转位置编🇱🇻👌码，其余维度不🌖动👩🚒。正是这种🌉❗验证驱动的方法📖使得 D🇺🇦🇫🇯C 能够得出🦹♂️可行的🤢🥟设计😿🥯。(2) 新的设计🙅流程 借助 DC💌🇻🇺泛目录站 等系统，目🤦♀️前由 10🌨🇫🇷0 人😔🤠或更多👎人组成的团队将能🇦🇼够同时探索🏋️♀️多种不🦍🇲🇱同的设👩💼计、架构和产品理🙊🇲🇬念，每👩👧👧🍁个理念🙂💀都从概念阶段一直💓🇬🇩到 GDSII 😃⭐阶段📥🇷🇪。
