（来源：上观新闻）
V4的Mo🌼📘E专家权重和稀📊疏注意🇱🇾力索引器采用F🤸♂️👏P4精度，而🇬🇵FP4恰好是华为🔦昇腾950PR✈芯片的原生支持🍨🛴精度🚖🥃。比如网抽👨🦰💈风了，或者👊🌥我 cc🇦🇸 和 c🇸🇬🤘ode🧶x 的额⌚🇹🇫度同时干🔏😝满了…… 而我🌹✔一开始想解⬇🧵决的问🐪题：让不懂技🏟🥶术的朋友也能用上🥧😫 AI Agen🎸🎉t🏗✨。吃腻了🤒👩👧👧预制菜的观众🇭🇷，更不吃爱奇艺A🔥🇩🇬I预制剧这🌆☄一套📰。“1.6T的参💦◼数量与O🦹♀️🔬penAI、🥛🇦🇱Anth🏊♀️🇫🇲rop🎰🍭ic等👩🚒顶级厂商的模型相⛰🖥比，并不具🦉🚵有绝对的竞争力📤。
V4的做法是🚃📰把注意力拆成两种©，交替叠用✍🚀： 一种🇵🇬是CSA（压缩稀🤾♀️👨⚕️疏注意力👨🎨），先把每若干t👴oken的K🇱🇷🌀V缓存合并成💎🍒摘要，👨👨👧👧🥯再让每个⛈query只在这🖍😀些摘要里挑选💃🐸最相关的top⬆-k条去算注🦹♀️意力——↗相当于既压缩了“👨👨👧👦🚨要看的内容”，又💩🇵🇳只挑“值得看🦅🕠的”去算； 另一👨👨👧👦🚑种是HCA💡（高压缩🎛注意力）👍☝，用更激进的😠压缩率把更长区🦠间的to🤨ken合并为一条🗯，但保持🥺🇦🇽稠密注意力👻🇺🇦。
AI短剧《🇨🇲🐄霍去病》剧照🎐🕙 一夜🤥暴富的🖌，屈指可数，™更多的是黯然🇸🇳😦离场🦛🇸🇿。V4-Flash🏗的推理能👌力与Pro接近📊😸，世界知识稍逊，👗而在T⛵📎hink M🇮🇨ax模式下，🚵性能可以大幅🌑⚾追近Pro：🇹🇨🗽LiveC🤫odeBench⛄👹 Flash 👪Max达到🌋⌛91.6，♎🆗Codeforc✖es 🚐🎪Flash 🇸🇸Max R🎩🇫🇲ating达📛到3052🇲🇰，与Pro M⚓ax的差距已❎🦞相当有限👫。就在爱奇艺抛出🇬🇫“非遗🚡论”的前两天，🥁演员周👨💼✉一围在与潘🗑🤳斌龙、👂⏹刘晓旭和⚒ce认证费用一览表刘天池的对谈中🍫🌴，自嘲了一🦁🏹句：“咱们快🚕要进入到非遗💄传承人的行🕚列了🏫。
