（来源：上观新闻）
V4的做🐞🌌法是把注🎺意力拆成两种，💖👨❤️💋👨交替叠用： 一⚫🧁种是CS💖A（压🏘🍊缩稀疏注意🛵力），🍮先把每若干to🥥🔔ken的KV🎁缓存合并成🇵🇰📦摘要，再让每个🇸🇬🧗♂️query只🐵在这些摘✔👩💻要里挑选📪🤝最相关的top-🇺🇸k条去算注意力🤽♀️🏦——相当于既压缩📏了“要看的内容”♉，又只🕹🕚挑“值得看👂的”去算； 另🦘一种是HCA🛄❣（高压缩🔑🦹♂️注意力🇸🇴），用更激🤽♂️🇾🇹进的压缩🎾🖖率把更长区🖥间的token合🇹🇦👤并为一条，但保持📽稠密注意力🇳🇪。
电影一上线，不少🎾💹人发现🥊🥛，这部电影🕕谈不上AI创作👠，更像是一部“❤🐷借鉴”之作👨🦱💍。微盟技术副总裁😩🥙肖锋肖锋指出😵，C端用户对🐥AI的幻觉具✒有较高🇧🇩的心理容忍度🐝😒。
接近过梁文锋的人💭🧫曾评价：“他是🎎😘一个特别抗噪🔬音的人🇫🇯。但大模型🧪🌗做出来😆之后，真✖正决定商业化速🕌🎸度和产业渗透深度🚟✂的，是推🎤理⏱😲。创业初期，🇵🇷俞敏洪的🤹♀️任性，是敢闯敢🍳🇱🇨拼、坚持❤🇨🇷自我、不随波🧴🧤逐流的魄力✌。
