（来源：上观新闻）
命题一：重新审😂视开源的性价比 🇪🇨🐓一年前，D🇵🇪🍢eepS💢🥿eek R1公☁开技术🇲🇻🏂磁力蜘蛛搜索神器报告后，一名📞📒AI投🇻🇦🗯资人的判断是☸：回归基🔻🧖♂️模研究、靠🏇🛹开源开放🎼打响技👔🤯术品牌，对模型厂🇧🇶🕘商而言是最重要的🌋事🕹。主播天权在直播间👩⚖️模仿摔手机、😺发表不🍩当言论，再次引发🍦🇸🇨舆论哗🧜♂️🎴然，被平台♐停播三个🎼💲月；后续东方👨🔬🕯甄选直播间又出现💾🈸拉黑网友、控评*️⃣🚢舆论等操作，一次😿🥐次消耗品🎁👨👧牌口碑，而这些🎹残局，🔎最终都🇦🇬⬜由俞敏😣洪亲自收拾，道歉🦸♀️👩⚖️、整改、安抚☕💴用户，成⚪❔为他的常态🔐。
二来，虽🧙♀️🤨然单颗芯片性能🇰🇬💂有限，🇫🇷但架不住量大管饱🤑✊啊，把大量🇸🇮🎱的芯片利用👓起来，组合成一个🖊🦴"计算中心"，🌺塞进机🇫🇮🇺🇦磁力蜘蛛搜索神器柜里，其🇰🇾🇵🇫实就是🐹🇪🇹这两年火热的💚超节点🎰🇬🇶。V4的做法是把注✊意力拆🍦成两种，交替叠用🐴👩👦👦： 一种是C📚🌝SA（压缩💐稀疏注意力），先®把每若🧙♀️干token🌮🌭的KV💅🕒缓存合并成摘要🌪，再让😭每个quer🕉🇰🇵y只在这些🐑摘要里挑选最相🌵😚关的top-🍐k条去算注意力💿——相当于既压缩🎵了“要看的内🎂容”，又只1️⃣挑“值得看的👨🏭✒”去算⏮； 另🎼一种是HC👒✉A（高压缩注🧩🇫🇴意力），用更🇨🇲激进的🐭🥬压缩率把更长✝🇫🇰区间的toke👁️🗨️😗n合并为一条，但🇨🇨🐜保持稠🙎🚅密注意力🥊🈲。
