（来源：上观新闻）
王昊指出🎪📙，这一点甚至🚔许多动🕊物都不🥂🕳具备🔤🔪。DeepSeek🧜♂️🇫🇲-V4：🔸2026👨👨👦👦年4月2💞4日🇸🇭👩🎤。Muon是前🧛♀️几年Kell🇱🇨🇨🇺er Jorda🚹n那批人（🧩他现在🇬🇧在OpenAI）👟在小模型上验证🇹🇴🏊♀️过的优化器，基👧于矩阵正交化🏧🍍。
这导致了“🚲验证”👩👩👦🐊成本居高不下，🇵🇱♣通常估计占🇧🇭🇳🇺总支出的50%🇪🇭🍔以上📋🇬🇭。V4的做法是t🤾♂️eacher🥉👩👩👧👧权重offlo🧴🌇ad到分布式存🏋🐐储按需加载，只缓☑✖存hid🖕den stat🇷🇼es不ma🇬🇭teria🤳🇧🇯lize l🇫🇰🤷♂️ogits，👀🧗♀️按teac🇬🇲🔩泛目录her排序样🇹🇴🌛本保证⚫每个mi🍮ni-b🇯🇴atc👩❤️👩🇰🇳h只加载一个🕝teach😐er he🚴♀️🇨🇿ad🇨🇨🍺。
Muo🇦🇷n在L🇨🇻👨👨👦LM规模👆🍶上的第一次大规🇸🇷模验证是Kimi🇧🇧6️⃣ K2🇰🇲😵。也正是这🚻套机制，让它从0️⃣〽“画图玩具”跃🖲🥽升为生产力🌇👩🍳工具📖。
