（来源：上观新闻）
自从 Claud☂💝e Code 发😶🇬🇫布以来，term📁inal 基🎉本成了我最🥽爱用常用的电🇰🇵脑工具👩🏫🔭，非终端的⤴产品，说实话👳🕡我反而有🇿🇼点不大习惯🌷了……但说实话，🔎经过我🙍的反复🚾安利和洗脑甚至手🇱🇷把手教学数♊十人之🧴后，我发🇦🇷👩👩👦👦现终端的门🔹🌤槛对绝大多数人🇳🇦而言，的确🧸👨💻还是不小，甚🤴至补发许㊗多程序员和有互联🚏网背景的产品经理🙇免费创建网址。让机器人去处🇾🇪💌理那些高重复、高🇦🇲强度的工作，本就👫是这个行业最早🇱🇷的使命👱。
V4的🔔🇮🇱做法是把注意力拆🇼🇸成两种，交替叠✋用： 一种是🇪🇹CSA（压🇺🇾🇹🇭缩稀疏注🇪🇦意力），⛄🌄先把每若干tok🇸🇦🇯🇵en的KV缓存🧽合并成摘要，🎒再让每个quer🚡🗒y只在这些摘💜🌧要里挑选最相🍾🍨关的top-❄📮k条去算注意力🧱——相当于既压👐😦缩了“要♋看的内容”，又👳♀️🐀只挑“🇨🇰🍰值得看的”去👴算； 另一🇸🇪种是HC🤝🇮🇨A（高压🎌缩注意力），💭😕用更激进的压缩率🔐🏴把更长区间🤷♀️的tok🔔en合🥰📕并为一条，但保持🤷♂️😊稠密注意力🗨。当Dee🌒pSeek用🍌万亿参数📇🗒级别的🔵🧗♀️模型验证了🍃🇬🇮国产芯片可以承载🏂🐉顶级大模型的推🎵🏴理，整个生🇦🇲🇱🇨态的底气🔠🐽就变了🦗🇭🇹。
