（来源：上观新闻）
V4之所以迟到❗🛅这么久，一💲份近60页的🌼🏴技术报告给出了⛏🗨近乎“残酷☄”的坦🕠🥾诚：训练数☄💔据量翻倍（从1🚢⏸4.8T T🕚oken跃升至3🍱2T—337️⃣🙈T），参数翻倍⬛☪，在超大🇮🇩🍼规模集群😽上，硬件细微误差🙃🍉被无限放大，训练🦡🏛稳定性🏸遭遇“工🛹程无人区📋”式的挑战🚃。为什么模型更新后👨👩👧，解决同一问题🇯🇲⛹️♀️的推理 t🏯oken 消耗🎂反而变多了？🎵 赵晨阳：我之🔒前在小🔞😷红书发过一篇文章👨🚒🇧🇾，说现😦在的 tok🦸♂️🎅en 🇲🇼🎧浪费有种 🏅🍽“拿高👂压水枪浇花”🥺👩👦 的美感🏬🌛。
成果非常👩🚀好：2天内种🎌子用户🐄👩⚖️就达到了近🔼🌊100人，而且🔡👹是0差评🥍🍿。正如进化🏥🏟生物学所揭示的，🖌人类许多认知和情👨🦱感机制——直觉、🐟🔫共情、具身感知⏩🐓、即时奖赏偏😔👩👩👧👦好——都是在🤨🗯远古资源稀缺、信🇬🇪♥息有限的环境🐉中被自然💾🛂选择塑🦋🇸🇸造出来的适应策🇮🇨🏴略🔣🔶。不再依赖🍫🇬🇬模型计🏝算亲和🖥度，而😞是直接通过输入 🦠Token 的 🦹♂️ID 🙍♂️🇲🇾计算哈希值来固💫💪定分配专家🇦🇸。能否先简单解释👆🎏一下，优🇭🇳化器在大模型训练🔺🏧里起什么作用📂？Muon 👩✈️🇲🇨相比 AdamW📲 的核心优势🧯是什么🇼🇫🇲🇶？ 刘益枫：一🚷🤪般深度😴🇾🇪程序化广告平台有哪些学习网络的训练过🏟🗻程，就是让模型通🛌过损失函数的梯🦶度下降信号不断更🧮新权重，当权重更🕧新到一个状态，🤖模型能🎮🇪🇬稳定达成🇺🇳设计目标了（💂♀️比如预测）➗😕，就是训🅾完了，得到了稳👨👩👧👦🌙定的权🇧🇯重🔕。
