（来源：上观新闻）
晚点：MLA 和🦓 MQA 的区🇧🇹👆别是什么？ 刘🇳🇿👨👩👧👦益枫：⏫简单来说，MQA📃 更接🇺🇿近原始多头注👩🏭意力（🦵Mul🧬🦞ti-Hea🚟d A🇭🇹ttent🙅0️⃣ion🥢🇳🇴）🖼。虽然已经工作多年📏🦀，同时有博🧣士学位🐎。赵晨阳：我最近做🐿语音生成模🇧🇴型，也🦡💇♂️发现开〰🇧🇲源模型相⛪🕌比 GPT-4o🐸 那个时代🐗的模型仍有不少差👩👦🇹🇴距🙆♂️。盘后，Alpha🇳🇬bet表现一枝🧛♂️独秀，🌪😍股价涨幅高达7♌%🇵🇼。你感觉不到这些，🚈🐃因为你🐆的具身系统无法将👩🦲"结构🇳🇫性趋势🇪🇨"转化为可以🇧🇼🏇感知的信号🦸♂️🐓。
晚点：🌁阶跃和混元呢😊？ 赵💂♀️🏍晨阳：阶🚎跃在多模态👴🇭🇷上发力很早，🥴而且我认为多模📥🇦🇨态远没有🇬🇼😭饱和🍿。赵晨阳🌺🌆：这次 V4 的👩👩👦激活比（📪🇦🇴激活参数比模🏃🙎♂️型总参数）确🚥实是这一波模型🏗☺里最低🇸🇩🤐的❇🕷。Eka Ro🥅📼botic👷♀️🎙s 在社交🤘媒体上发布🧲🔳了一段机械臂🇵🇱🇸🇪视频：它🔒成功地从桌面上⚪捏起一颗灯🥫泡并拧入灯座，全🍐🌖程没有人类📶遥控，也没🧮🥝有为灯泡✡⛑加装任何辅助传🌯🐬感器🍃😼。
代码库🥵🐛是干净的，它就🦏放大效率和🦁创造力；代码库一😍团乱麻，它就🇨🇨放大混🅱乱🇷🇴📻。不仅引进了🚽 mHC🗣☂（流行约束🇦🇲超连接）🇦🇸、起始层哈希路由👩🦳🛅等技术，还大胆使🇵🇱用了 CS🌋😷A 和 HCA🚅🧔 等 token🦄🍷-wis🧂🍹e 的压缩技术，🚶📁创新性使用了不同💺🌛于一般✨实践的 🇬🇫Muon 超参数☺👨🦳，甚至💛📵放弃了既有的🐺🏘 MLA 架📣构🥈🇽🇰。晚点：可以说🎯，是 Ki👨⚕️mi 🚱的 Moonl🤐ight 和🏡 MuonCl💯ip（在 2🌠025⚓🔃 年年中的 K2🤝 中，K🐒imi☺ 进一步改🥥⛹进 M🏭uon 🥦的版本）改进让📖业界开始😚更广泛使用 M🏴🇹🇳uon ⛑💫了？ 🏄♀️🍄刘益枫🏴：对😀。
