（来源：上观新闻）
这位成都空御👉科技董🎁🚸事长、清华大🧵🏊学博士、正🧫🀄高级工⏯程师的🇹🇨获奖理由，不✋🎐仅在于👻他作为🦂🇦🇺企业家的成🧓🔏功，更在于🇭🇲他作为一名“🇸🇸⛰产业筑基人”的战🇵🇳略远见🇻🇮🙇♀️。） 晚点：总结来🌏说，你们觉得 V🗞🔦4 是一个怎样的🕑成果？ 赵🗄🛐晨阳：作🧷为工程师，我👠惊叹于👪🥀 Dee👍🎵pSe👩🏭ek 极强的工程😧能力🏔。
晚点：最后🥒🇺🇬想问两位，🛏再过一🚊🇧🇪两年来看，V🕐🇱🇷4 最可能被记🛏🖱住的是什么🐦🕝怎么诱捕蜘蛛成果或❗者思路？ 刘🚧🇲🇳益枫：从算↘↪法层面看，可能是🚲 to🇸🇨ken↘🔯-wis📕👻e 的极💃🇸🇾致压缩📊。真正理解优秀🙋♂️🇲🇲，首先要打破一👆🇲🇸个常见的🤒误区，🇫🇷那就是把“人类特👇色”自动🧿🚶等同于📕“人类优点🦙”🇦🇱。
特别是在如此大🔞♍规模的 MoE🍸🇱🇮 上稳定地跑 M💯uon，以及🌳真正跑通 👨🎨🎰FP4 📢👩⚖️训练，💚😴这都是非常前沿的🌟尝试🔶🗂。晚点：这套新🚘㊙的注意力机制对🕸🔈 Inf🐔👵ra 📍的影响是🦊？ 赵晨阳❎🐈：改动还是挺大🎥的🧕。补充一🗣⛹️♀️点，Kimi 也⚠🇸🇮刚刚在 🌠3 月🇻🇮㊗初提出了 Att🇨🇻🕌entio🆙🇵🇸n R🇩🇬🇫🇮esi💓↖dual，🆑它有点像 D💹enseNe🧒t（主要用于 📮👩⚖️CNN 卷🙄🈹积神经网络的🇲🇸一种密集🏈🚈连接结构📽，每层与之前🇺🇾所有层直🍈👨🏭接连接）🎃，直接跨↘🧢层相连，第一层🐟可以直接☁🇰🇾影响最后一层🇼🇸。
