（来源：上观新闻）
V4的🥽做法是把注⚛意力拆成👀两种，交替叠用：😇 一种🦴是CSA（压🔉缩稀疏注意力🧵），先把每👣若干token的🍕🦶KV缓存合并成🇴🇲🥳摘要，再让每个q📱🇾🇹uery👲🎟只在这些摘要里😵🇪🇷挑选最相关的to🌰😾p-k条去算😊🈯注意力—🇱🇺🤼♀️—相当于既🇹🇹压缩了◼“要看的内👲容”，又只挑“♏值得看的”去算🎏； 另🇭🇷🍾一种是HCA（高♦🇲🇿压缩注意力📩），用更激🇰🇾进的压缩率把更✋长区间的toke🏊♀️n合并😶🏳️🌈为一条，◾但保持稠密注意力🔪🇻🇮。
但这场流量狂欢过🇷🇪💜后，新的“留存🇼🇸🚚”考验才刚刚🌗✉开始🇬🇪🚻。作为市场化投资🇺🇲机构，我们很难🇯🇲🎑像国资机📠构那样🤣全领域覆盖🤺⬇，重点聚焦几💡🇲🇫个细分♻领域，围💜绕产业界资源做📊🥨深做强，挖掘“⚛泛seo水下项目”⚒。在人才侧，随🏦着郭达雅（👰Dee🌀pSeek R😁1核心作者）、王✊炳宣（Dee🔢pSeek 🐇🇵🇭LLM核心🚊作者）等🐏🐯人才被字节、腾讯👍👨🍳等大厂🐓🏴挖走，Deep✡Seek需🥛🛀要一笔大额⚰🇧🇾融资稳👩🎤🌺定军心、招兵Ⓜ🦴买马🔕🍾。
这也是为什↕么长期以♈来，百万字上下文🇦🇹要么是Goo🏞🚙gle Gemi😧ni的独🏬家王牌，要么是实🇰🇲验室里的漂亮数字🇾🇪🥘，太贵了，用不起♠。在DeepSee⬅k V4发布前，🦸♂️我们与十余🇹🇩🇲🇳位AI行🕵️♀️😩业人士，围绕😓“DeepS👨👦👦🇧🇦eek改变🐺🧬了中国AI行业什🇵🇪么？”展开对话🔁。
