（来源：上观新闻）
因为去年很🌌🦓多大模型和智❤能硬件，比如A🍫🕓I眼镜♥等领域公司的🐦规模化开始🇾🇪加速，🐃对人才的需🦓求也更多💦🇻🇦了⚽。晚点：MLA 和🈴🌍 MQA 的区别是什👨🦳么？ 🧒刘益枫🇵🇰：简单来说，M🤲QA 更🕝🧢接近原始多头⌛🍰注意力（M🇦🇽ulti🦠🕞-Head 🗑Attenti🇰🇼🏞on）👨🦲🗿。作为参考🎠，旧版☕“运行”对话框从🇦🇷🇦🇷按下 W🍜in+R 到真正🎇🦢打开需要 🏖103🉐🕟 毫秒，而新的运😉🏪行框仅🔃为 94🔞♎ 毫秒，实际上速🧙♂️度更快👩👩👧⏬。
越是名气大、粉☔💋丝多，🇻🇬👂一言一行越要考虑🛢到可能造🕠成的影响与🗓后果🎫。现在模型足够好🧟♀️了🏛。这次 V4 博🎅👷♀️客里的一句话很🖱😔好：“率道而行🔸，端然正己🍄。历次认知跃迁，皆👄以技术基础设😕施的迭代为暗线📦🚾。当然，🇨🇴现在的实际🕥🐹使用中，🌜㊙几千 Token👨❤️💋👨 可能连 s🇳🇴🇰🇪ystem😁🏩 prompt🚙🇻🇺 都打不⬛🇺🇬住，所以日常使用🖖的感受应该挺明显⬅🦅的📘✳。
晚点：mHC👜 对推理框🍍架的影响是什么🛡🃏？ 赵晨阳：🐸mHC 🇹🇳把简单添加🇺🇦残差这件事变🚬成了一个需🎌要混合 GEMM🎃（通用🧮🎏矩阵乘法，🥥深度学习中最核心🇲🇸🇩🇪、最密集🚱🔏的数学操作）和🇲🇰 Si🇹🇴🕸nkhorn 🇵🇲归一化的复🖕🎴杂操作😹🦒。具身就有这样的✒🗻局限： 这种有😊限性本👡质上是生理性🇧🇩🕐的🇸🇰🇺🇬。
