（来源：上观新闻）
我们的目标是🏙🍂让合规飞🎑🍢行‘无感’，让违👨👩👦👦规飞行‘无机可🔗🥾乘’🌗7️⃣。我们 S👪◀GLang 的🇲🇫 RL 🇧🇱团队去年也做🤠✏了两个相关☕📋工作：F👟👨💼P8 全流🐁😱程强化🚵学习，训练和推🚵理都用 F✈🈳P8；还有 IN🕥🔅T4 的 QA🏌️♀️T🇯🇲👨👨👧👦。。DeepSe🇺🇳🇹🇳ek V4 🌸首次彻底脱离英伟🕣达 CUDA 生🎮📽泛普软件态，全面🆚适配华为昇腾📑📫平台完成训练🎚🧗♂️。
假设他们现在🌧✈采购了昇腾服务📇器，部🌕署了 🔜👯Deep🧔🐂Seek V4—🥔—模型的🤸♂️代码生成质🇧🇴🏁量会比之前🔺那个半年前的老模🙎⛹型好得多🎆，但那👩👧👧🌊个九年前的财务后2️⃣台系统🏋里散落的隐🤘知识，不🌎☪会因为🇬🇶📮模型换🥕✋了就自动消失😼🇨🇼。所以我们⚰🚲设计了◼ Shad🚈owRadix 🙇♀️来应对——三个📁🏗异构 KV 🥾池（SWA / 6️⃣C4 / 🐵C12🈂🦀8）加两个压缩状🤜态池，要在预填充👳♀️⛷、解码、投机解码🇰🇾❄三个阶段🤤🚢保持同步👲🎍。
作为追觅科技创始👨👩👧👧🦛人，俞浩在网🧺络上颇具影响🍧力，妥妥的网🧠络名人🙋♂️。但每隔半年就要找🇴🇲一个 “💩新范式” 的行业😣👪恐怕有些问题🐹🐤。训练阶段3️⃣🆙，优化器维持🦑👩 FP3🇬🇲2 主权重，计算🙆♂️前先压缩到 F👨🔧P4 范围，再无🧬🥯损反量化回 💆♂️FP8 计算😆🐨。总参数越🏗🏟大、模型容量越高📑；激活👸参数越小、推理⛲🧝♀️成本越低👏。六、技术维🤕度：技术作为认知🤸♂️🇬🇫变革的隐性驱动🇪🇹力 技术从👁💣来不仅👒🧑是改造外部🏥世界的工具，🏋️♀️🇪🇦更是重🦶👨🌾塑人类🇹🇨感知方式🍒、思维结构与认知👩🦳边界的隐性力量🍲。
