（来源：上观新闻）
而在各种龙👩💼虾里面，搭子🖋⏰ DuMate📉 是目前国内9️⃣桌面级产品🔅⛑中，我见🧖♀️过用户体🦹♂️🥐验做得最好的一👩🦳个🈁🔊。他在2006年就🥐加入新🏴东方，从一线教😙🏘师成长为🕟🇦🇽高管，曾担👨🎨任苏州新东🚏📧方考试部🎌☠总监、南京学校🍔常务副校长/校长🤕、广州学🥬🛎校校长、新🇫🇲东方集团副总🇲🇰裁🏰。Anthro👒ℹpic 最快可能🕍➖在 10 月进🇵🇸🧧行 IP🍤O🤟🚇。火箭技术迭🦸♀️👇代、运力🀄🥙提升后，让卫🏄♀️😀星发射的成本变得⚔〰更低🍸🧞♀️。美国走的是“算⏹力堆叠+商业🥓驱动”的路📸🍭，用全🈵💣球最强的🚣GPU、最充🌨🏋裕的资本、最激📵进的商业化来推动☃🏜模型能🤔🌌力不断突破；🏛🍕 中国走的是另👠🤰一条路，一🤜🧞♀️条在算力受限、🍒🤠芯片被卡的条✝🥌件下，只能靠❔架构创新和系🇦🇪🚼统优化来“戴着镣👸💵铐起舞”的路🖱。
V4的❗做法是🦊🥔把注意🔈🇶🇦力拆成两种，交🍐🇯🇪替叠用： 一🥤种是CSA☮（压缩稀🥯疏注意😵🍲力），先把每若干📳token😀🈹的KV🧖♂️⏯缓存合并成🈚摘要，再让🇧🇿🦕每个que🇱🇰ry只在这些🇲🇬🏁摘要里挑选最🔓相关的t👩🦰op-k条🕘🥽去算注意力🤼♀️🇻🇦——相当于📂📰既压缩了“要💦看的内容”🍛，又只挑“值得🇮🇹看的”去算🌜🇬🇵； 另一🍇🥥种是HCA（高♊压缩注意力），🌗🖱用更激进📌🤯的压缩率把更长区❤🍈间的tok🇪🇦en合并为一条，🏇但保持稠密🍘🇬🇬注意力⚜。
