（来源：上观新闻）
网剧《灵魂摆渡🏊♀️》系列之于剧粉😰，是国产志怪剧🎊🛡的天花板，播出1🥎🛀2年间，被反🇲🇻复翻出来🐀🇼🇸咀嚼🧔。现实中🇲🇺的“一人公司”🤰，固然有一部分与👷🦒AI的性能🇦🇪🚼进化有关，但6️⃣📱成全这类公司的因🎀素，其实还要多🧧🍄元和复杂🔨得多🔉🚌。命题三：回归🛋基模，选实用，还👚🎤是选研究？ R🤒🚩1出圈📴😸后，聚焦基🐃🚴♀️模研发🇬🇮🇸🇻，一夕之间成为🧜♀️💼AI模型厂商的共🍺识🔪。在从业者眼🙎中，牌🏴🙊桌上一直👭有“两个De🇲🇭epSeek”—🏗—一个🏴带来被倾轧的🎮🔓恐惧，另一个则作🛹🥝为范式的🛑☑引领🇸🇧🇪🇺。
V4的做法是👩👦👱♀️把注意力🕕拆成两种，☔💁交替叠用： 一🔫种是CSA📴（压缩稀疏注🤔🍦意力），🍄先把每若干t🛵🇭🇰oken的🇹🇫🚽KV缓存合并成✒摘要，再让每👑🌏个query只在🧘♂️🇨🇱这些摘要里挑🦅😽选最相🌋关的to🖇p-k条去算注👵意力——相🆖😜当于既压缩了“要🏏看的内容”，又只🚻🌹挑“值🏈🦉得看的🚸”去算； 🖥另一种是🔷💽HCA（高压🙈🌀缩注意力），用更🖕🔂激进的压🧜♂️缩率把更长🐯🕚区间的to😋ken合并为一🐜条，但🧳保持稠🇻🇮密注意力🕊。新京报贝🌈壳财经记者🍌梳理2😋👈026🏊♀️🚀年3月的中👩🎓🏁国AI应用声🌿🇧🇭量与月活数🌅据发现🙋♂️㊙，中国AI应👨💼用的头部🔝梯队已经初步🐃👊形成——豆包、千🇬🇼🏳问、Dee↘🇯🇴pSeek😚、夸克、🇸🇮元宝五款产品在两🕐项指标上🇸🇽都明显领先于其🥝🛹他应用⚫。
