（来源：上观新闻）
V4的做法是把🇮🇨🎒注意力拆成两种🌦，交替叠用：🚊 一种是🇨🇳CSA（压缩稀疏🐰🗞注意力），先把每🕦若干t🇱🇸👝oken♣🧶的KV缓存🆑合并成摘☸要，再让每个🇻🇮🇦🇲query只👨🏫🇰🇷在这些摘要里挑选😭最相关的t☸op-k条🏋️♀️去算注意力——🇻🇨👨🎨相当于🌾既压缩了“❕🌇要看的内容”🍿，又只挑“🍐值得看的”去算👩🦲📐； 另一种是🀄🇰🇾HCA（高压缩🇲🇻🇺🇳注意力）🚸，用更激进的📪💚压缩率把🏰更长区🔨间的token🧟♀️🧠合并为一条，但保✂持稠密🤡🇱🇰注意力🍙🤒。
再到最☃👡近上线的顺风榜🏇单，让那🇧🇾🤔些被广泛认可和🇧🇾关注的用🍧户被更多看见，让💂♀️🔑你发现，🔝😵蜘蛛是怎么形成的来自周围陌生🌟👩🔬人的真实认可，能🐮🏔为你增添一🍶🖌蜘蛛是怎么形成的些力量🤪。
DeepSee🍵k官方在技术报💄🎁告中坦🍚👨🍳诚地写道🇸🇮，V4的能力水平🇬🇭👎仍落后GPT🛰👩❤️👩-5.4和G☹🇧🇸emini🥏-3.1-🎞Pro，🥩👨👨👦“发展轨迹🏠〰大约滞后前沿闭🇭🇰源模型3至6个🇧🇧月”📃😩。
