（来源：上观新闻）
我们 SGLa🇵🇹✂ng 团🛂队也针对推理场🥊5️⃣景的小批量🇬🇼解码做了🎈 spl🏺👱it-♌K（把矩😄阵乘法中的 K 🧹🏎维度拆开并行👛🌯计算，以提升小🌇批量场景下的硬件😬利用率）的 🇳🇦⚗Til🇰🇾eLan🚏🥠g 版本✉💿。刘益枫♈♌：目前🇲🇼🇴🇲 Chat🌺❄bot A🦕rena 上🍖 DeepS🇫🇲🍼eek-V🦌🏝4-Pro 排名😃🇧🇶大概在 23🦡 ，比 GLM-🇮🇶🤢5.1🐁 和 K2⤵.6 等都低；😽在 A⛺🥎rtificia🇾🇹🌫l Ana🤑🗄lysi🚏s 的 Int☑elli🇰🇵genc🐸🙍♂️e Index📿 的分数为 5🎳🕓2 ，⏰❌也比 Kim🃏🎻i、Mi🍗mo 低🧣。
从外部🇸🇾👦来看，京喜🇸🇭😪需要应对来🇯🇲🇯🇴自拼多多、〰📱抖音等平台🤺的低价策略和用🎤🛳户争夺🏷。为什么模型更新🧜♂️后，解决🇸🇻同一问题的推理👩🌾🙂 toke🥓🦕n 消耗反而变😽🇰🇾多了？ 赵晨🍬阳：我之前🚱🛂在小红书🧙♂️🤸♂️发过一篇🔥🔬文章，说现在🌾📴的 t😳👆oken 浪费有🧐种 “🌲🇧🇹拿高压水枪浇🇱🇰花” 的🧘♂️⚡美感🇹🇬🥨。
