（来源：上观新闻）
“爱奇艺穷疯🐁了也得有底线😚”“AI艺😥人库自掘坟墓”等📴🌥词条引爆热搜🥼，网友们🔗🇨🇺怒气值拉满，👨👩👦👦喊话爱奇艺🎢：“以后👨👨👧👧🚵♀️观众也🕵️♀️找AI吧🈶🙇♀️。你只想把⚛活干完，🌬不想学什么是🇦🇽 termin🇧🇫al，不想配 🆖API Key，👩❤️👩不想 🛁🇹🇿google加速debug 命⚒令行报错🧺⬇。他曾努力适应、👈🎙努力沟通、努🔰力想找到一👨🍳🐹个继续走下去的👩👦👦🇧🇬方式🇧🇲🥞。” 不过，与外界🗣关于“新模型🇭🇲支持多模态🕋生成和理解”🌐✴的猜测不同，V4🤧🎀依然是⭐🖤个语言模型💈🕢。
这并不只是动🐓🐇易科技一家公司的🇸🇦故事🐄。V4的🌋🗻做法是把注意力🎋🇷🇪拆成两种🇨🇭，交替叠用：⏺🙈 一种是C🙈🎢SA（🏐🗣压缩稀🎸⌛疏注意力），🗽👩🚒先把每若干to🌶🧰ken的KV缓存🥳合并成摘👩🌾👷要，再让🇨🇽🐴每个qu🐈💎ery只在这些摘⏬要里挑选最相关的🇦🇪🚆top-🔟k条去算注意🚠力——相当于既压🔝🚮缩了“要看的内🦄容”，又只挑“🍽值得看👩🌾的”去算； 另🦊⛹️♀️一种是HCA（👈高压缩注意力）⏳，用更激📜🕰进的压缩率🌟🇲🇶把更长区间的⛓👮♀️tok🙈🔢en合并🥂👩👩👧为一条，但保持稠🏫密注意力👩🍳🉑。
