（来源：上观新闻）
Deep👷✅Seek-⁉🇦🇪V4 在前几层 ❄🦐MoE 模型⛔🛰中引入的新型路由🇮🇩策略🎖🎇。椅子在🚁“呼唤”🧝♂️🇦🇫被坐，门🙍🔒把手在“诱导🚮”被转动☺。赵晨阳🐆：具体发布计划🛬外界无🦜🍱从知晓，但👾从技术上可🎚🚶♀️以推测，V4 🍼一次性引入了♎至少四个互相耦合🇦🇮🐺的新东👨👨👧☂西：混合注意力➗、mHC、🇾🇪Muon 优化🇩🇪®器和 FP4 🚏🧗♀️训练⚓。。我们 SGL🎻🛰ang 团队也针🌋对推理🇨🇩🇵🇱场景的📎小批量解码🤧🙅♂️做了 🕜spl🤰🥨it-🇵🇦🔙K（把矩阵乘0️⃣📙法中的 K 维🇬🇵seo和geo是什么意思度拆开并行🇨🇿计算，以提升🏳️🌈🥨小批量场景🚘下的硬件🖖利用率）的 Ti🍻🕗leL📖ang 🦈🎐版本🍘。
采样时降📃🔻低位宽和显存读🕌⚜取压力，对速🍬度提升很明显🗻🤼♂️。刘益枫：🥡🌋英伟达🏉的开源模型也用♋ FP4🅰🐀。这才是♓⛹新人文主义应⭐♨有的姿态——❎👩👧👦不是对“人性”的⛺👯无条件礼赞😷🛸，而是🛷👨👩👧👦对“更好🔦🚯的认知”的🧟♂️🇷🇪持续追求🍭⏸。
