（来源：上观新闻）
V4的做法是把🇱🇹💍注意力拆成🏪两种，交替叠用😻🙂： 一种🧿是CSA（🛁🥠压缩稀疏注🦎🗳意力）😨🐠，先把每若🏫🗜干token🚨的KV缓存合🏕☁并成摘♓要，再让每🚌😟个query🌋🧭只在这🤮些摘要里挑选最☸🌓相关的top-k⛓🐾条去算注意力——🐍🇱🇻相当于既压缩了🇿🇼🥚“要看的内容😃🌒”，又只挑“值得🏌🤭看的”去算🗾； 另一种是H🇨🇿🈚CA（高压缩注🇦🇽🍀意力）🥀，用更👙🤓激进的压缩率把🇲🇫更长区间的🇲🇿🇱🇹token合🦶并为一条，👩🎨➗但保持稠密注意力🗡🌳。
更长 😀电池续航突👨👨👧破1500♎公里🚵。Anthropi🍄🦓c今年2月🌈披露，按🦓当时收入节🌱奏折算，公司🇨🇲年收入规模已🥥🇹🇬达140亿🔚🍞美元，过😯去三年收入🧕每年都实现10🐓🇧🇧倍以上增🇲🇼‼长🚤。
但精简研🧤发团队的😃另一面，是数🏔据、评⏫测等支持团队的🌸🚑激进扩🥞🙋♂️张🏵🇹🇫。而在当下的各路搭🇹🇩子里，运🕙🧟♀️动搭子又偏偏🈲🕖是最难维持的🇸🇲一种：👩💻🇷🇴 你想🇮🇴⚪打球，朋🇦🇮友加班了；你周末✳geo是什么缩写有空，球友带📢孩子去了；好不❤容易约好📱了时间，对方➿临时取消…… 🧦😝难怪一个羽毛球🧁🈁爱好者最熟悉的🛄，不是球拍的手↗🎊感，而是微信🎴群里“今天有人打㊗球吗”发出去👩⚕️之后的🏪沉默🚱🇲🇩。
