（来源：上观新闻）
帅库网络举🍍💹办的歌手大赛♌。2025年®1月，前谷歌🇰🇷DeepMin🍹d研究副总裁🗞👩🚀吴永辉，挂🇻🇳❎帅字节模🎌🤮型团队Seed后🐁🎅，“不刷榜单🏋，聚焦模型能力本🕖🖲身”的方🌝⛈针就被🤙🏚多次提起👩🎨🐨。蝉妈妈数据显示，🌇🤙多个团播头🥔部直播间的粉🌝丝受众，💚80%以上为🦜女性用户，且🇿🇲🚵♀️年龄层分布🦎🎺在18🧽到30岁🏘。
姗姗来迟的🍼🛩原由，与🙈🕶V4将训练框架🔶🇵🇦从英伟达🎾🔨迁移到华为昇腾上👀🚑有关，⚠也与Deep🔢Seek内部👏🧥的决策😓变动有关📣。如果你关💱👇注过具身智能领域🇸🇹的新闻，可能听过👗🇫🇰这个名㊗字🦍seo和sem。V4的🥜做法是把🎤👏注意力拆成♨💭两种，交替🇭🇷叠用： 一种🎩是CSA👉（压缩👨🦳🇦🇮稀疏注🐀意力），先把💉每若干t➰🍫oken🐧的KV缓👀存合并成摘要，🚓🇧🇯再让每个🐦query只在这⏯🇯🇴些摘要里挑💟🇦🇱选最相关🍣的top-🌊🇹🇦k条去算注意力🛬——相当于既压🍯缩了“要看的内容🌓💐”，又只挑“☝🕘值得看的”去算；👅❓seo和sem 另一种是🎴HCA（🇹🇳seo和sem高压缩注意力），📭用更激进☀seo和sem的压缩率把更长📗区间的toke✝🇮🇩n合并为一条，🖼但保持稠密🎿注意力🦸♂️。
