（来源：上观新闻）
不少企业🇽🇰👩🔧发现，自己花巨🧖♂️资训练大✊模型的性价比😋🇸🇭远不如👦🔓直接拿D💳🧹eep🇧🇼See🤹♀️k的开源模型做❣本地部署和🌶推理服务，🌜🍡因为训练🗳需要极大算力持📙续运行数周甚♍👖至数月🍸🇧🇻，于是市🇨🇺场的主流需求从训↖👝练转向了🕕🚸推理🇹🇿。太稀疏会◼牺牲一些能力上限🚏。INT4 🚆和 FP4🤘☃ 不完全一样，但👩⚕️也属于激进压☔🇳🇷缩方案🇻🇳。不再依赖模型🆎计算亲和度🇲🇪，而是直接🚪8️⃣通过输入 Tok🍒en 的🏒🇹🇰 ID⛔👩🚀 计算🎞哈希值来🐯⏭固定分配专家✒。
但对于🦠⬇老旧项*️⃣目，SDD 天然🧑只能蚕✊🔂食——在🇲🇼💉新功能或重构模块🇮🇶上写 🛢◀spec，不追🇨🇭求全量覆盖🇨🇮。（4:1🎛❄、128:1 🦞是指把🍕 4 🆚个 tok🔼🌪en 聚合成一个💯表示和把 1🇬🇸28 个 t🐚oken 聚🍚📁合成一个🇨🇴表示，所以说🙎👨👩👧 HCA 的🇪🇪🎴压缩更激💇♂️🤠进） 每层用👋💪 CSA 还是 😤HCA↕ 是预定义的，因1️⃣🛋此面对同一个长上🧧下文，不🥁同层会从不同视🕴🇹🇭角去看——🤐😙稀疏层💰（CSA🤧🙍）精确锁定关键🇬🇲🕝 token，☁稠密层（HCA🏌）提供整体语🕴义概览🐎。
现在先分🌫🖊裂再蒸馏的做法是🧞♂️：在各个目🕴标上找局部最🇹🇹🇺🇸优，再让一🇧🇶个学生模型拟合多🎩个教师模型🧺的输出分布🕵🛏。经济与思想🤴⛽的互动构成了🚿⚾文明演进的一个🥮🛌基本动力机制🚼🌪。（注：V😛4 技术🌳🔩报告第🌥三节 “I💁♂️nfra🔐” 一章中提到🈲✖，DeepSee👍🤥k 在华🇻🇬为昇腾🇳🇷芯片上😔验证了细粒度🐐🏓并行 EP🇨🇷🚈 方案的🚴🇲🇨技术可行性，这💶说明 Dee🕎pSeek 做了👨❤️👨国产芯🏧片的推理☄适配🍐🇨🇼。
