（来源：上观新闻）
”一名混🛰元成员告🧭🧣诉我们，🥛“顺雨很Sh🇻🇮🙁arp，他🔐希望团队认识🐙到模型的真😵实水平，回🤔归到研发本身💭💢。V4的做法🖨🥚是把注意力拆⛏成两种，交替叠用🎤✳： 一种📅是CSA（压缩🚀👨👩👧稀疏注意力），🥿🥕先把每若干tok🙍♂️⭐en的KV缓存合🦸♀️✈并成摘要，🍘🇧🇷再让每个🇹🇿quer🗾y只在这些摘✝👩👩👧👧要里挑选最📡⛹相关的top🎄🕉-k条🇫🇲🤱去算注意力👨🍑——相当于既压缩🍭🕚了“要🍾看的内容”，💬又只挑“值得☦☯看的”去算🎅🇱🇺； 另一种是HC💞💨A（高压缩注🔶🇨🇻意力），用更🥂激进的压缩率把💃🌩更长区间的to👠ken合🍕并为一条，但保🈳🎳持稠密🖨注意力💩🔃。
尤其这次它😥由Code🇳🇺x驱动，🇦🇽代码执行和㊗🚧复杂任务处理能🦆磁力蜘蛛搜索神器力是有👨👩👦👦👨👨👧👧目共睹的，特别🇦🇷🛵在软件研发、🦈数据分析、销售🇳🇱运营、报告生成这💙🎳类工作来说，🇶🇦🇮🇹模型能力越强🐗☃，agent就🈶越能完整🎾执行🧤🌺。而当龚宇站在平台🦄👅的上位者视角🍌抛出这句话，它🦒😢就不再是一个♊玩笑，只🏥🥖会让人警觉💽🍮。
