（来源：上观新闻）
彼时的智谱在冲👨✈️击中，做💁♂️📎出了一⛽个在上述员👯工看来“难而正🏬确”的🐝决定：🇸🇸训练一🐞🅾个同时🌯聚集推理、Cod👼ing和A👢🦁gen🚰tic能力的模型🔰🎗，GL🇹🇩👩❤️💋👩M 4.🦃5🚛🌝。国内职场用户❕🌷很难绕开微信😰😌、QQ、💶😞企业微信，哪🙆📼怕再高级的1️⃣AI产品，如果每👨👨👦次使用◼都要切到一个陌生⌚✌平台，也很🇻🇪🦂难被用户接受😈。曾有知情💽人士表示，20☂25年🍈🦇下半年以来，🧗♂️😄梁文锋开始重视产🏒🆎品的打磨⏱。V4的做法👨🔬是把注意力📐🏂拆成两种，交🇧🇾替叠用：🍩✌ 一种是CS🇰🇭🍓A（压缩稀疏👩🚒注意力），先把每👨👨👦👦😍若干tok🇮🇸◀en的KV缓存⚽🇮🇴合并成摘要，再🍈让每个q9️⃣uery只🇹🇳🇼🇫在这些🎆🐞摘要里☪🎥挑选最相关的to🔣p-k条🎂🇩🇲去算注意力——相💎当于既压👁️🗨️缩了“🚱要看的内🇷🇼容”，又只挑“🎠🤸♀️值得看🕶🇮🇹的”去算； 🇳🇺💳另一种🇪🇨🦷是HCA（高🧚♀️压缩注意力🧪🕴），用🖕🔛更激进的压🇳🇪缩率把更长区间🎻🍆的token合🌂⛏并为一↘🌶条，但保持稠〽密注意力✡。
正如一位G🇨🇨🏄PU企业人🐍士所说，🌛国内厂🌧商都是戴😗自建网站着“镣铐🐎”与英伟🈷达同台竞技👩🦳。我们也非常看好应🇿🇦用端，这是🚅值得长期布🐍局的方向，持续🉑关注需求刚🛎🧘♂️性、落🦠地预期强的商🛣业应用和下游服🇺🇿🤭务领域的🥪🇬🇸优秀标的🧓®。教培业务崩塌后😀☺，他没🏄⏪有选择躺平退场🍲🚴♀️，而是扛起责任，🇸🇷🈷妥善安置📳🇹🇹数万员🇬🇹工，退还学员学费🍣📑，即便背负巨大压🐪力，也🥀⚾始终坚守商业底🦵线，这份责🤛🗂任与担9️⃣当，让东方甄选从👨🚒诞生之初，就带🇦🇿🇦🇹着不同于其🔳他直播品牌的底色🥊🇱🇾自建网站。
