（来源：上观新闻）
”他随口补充1️⃣🙁。结语：🔱梁文锋的🌀安静“棋局” 👂V4发🔴🛌布稿结尾，Dee💙pSe🙂ek引了😾🐨一句荀子：“不诱🔓☺于誉，不😔🇵🇰恐于诽，率道而行🏤👩👩👧👦，端然正己🔩🕉。Agent任务🍼🇹🇻的特点🇧🇧😔是上下文越来🇩🇴越长、记忆🙁🧞♀️越来越深、工😧具调用越来越频🧨繁🗝。当然，🦁对我这种📈暴力使用🇲🇬的人来说⚰🇨🇬，显然是远远不🚂🧠够使用的，但🇵🇪🔧对许多职场🎾朋友的日常🐠🇬🇳使用，❌🇺🇲大概是够用🇲🇹的🧼🇭🇲。” 即使中🇬🇭🌾国AI从业者对🇸🇷🈵Dee↪🏆pSee🗓🇰🇼k情绪复杂，但🔯🇭🇰人们依🕳🏫然承认，👤Dee🙏pSee⛏k改变🌰⚰了中国AI👩👩👧🚷行业的👩👩👧👦诸多规则🈚🔬。
在从业者眼中🇰🇬📚，牌桌上🙂一直有“两个De🎌epS🇦🇲🚣eek”—🇸🇴—一个带🚐来被倾轧的🐵👤恐惧，另一个🖇🖐则作为范式的引领🔄🍷。V4的做法是把注⚖🏃♀️意力拆🚔⚾成两种🇰🇳🐵，交替叠用：😋 一种是CSA👱♀️🆚（压缩稀疏注意力👽🆖），先把每若干😽token🏑的KV缓⚡🤷♀️存合并成摘要🚴♀️🧒，再让每个que🍀🚣♀️ry只在这些🇧🇩摘要里🧳📼挑选最相关的t❔op-📑🇵🇾k条去算注意力—☀—相当于既压⛳🖐缩了“要看的内容👟😕”，又只🎺挑“值得看⛴的”去🍊算； 另👩👧👦🏬一种是♋🍯HCA（高🇨🇲🇬🇳压缩注意力），用🌮☮更激进的压缩率🏨🇲🇶把更长区间的to♟️ken🏃👨👧👧合并为一条，🇬🇪➿但保持稠密注意🥥力🎸。上下文🍊翻倍，计算💗🛤量翻四倍🏓🇲🇶。
