（来源：上观新闻）
我们的 INT4👩✈️ 量化感知🧿训练，采样做的是☹🛠 W4A16🚴♀️🤞，也就是权重🇸🇨◾ 4 位、激活🚀😙值 1🍺🎈6 位⛹️♀️，De🇹🇳🇨🇼epSeek 🏂🏋️♀️做到了更🎯🇳🇦极限的🥾👩🔬 W4A8😘。
研发团队用了一🚜🚡周，没人再打🦖开了📯👽。强制在每次改动前🥔先写 spec🧹😟，对资源紧🇷🇺张的团队来说时间🔠🇲🇾账算不平🕛🦌。采样时降📹低位宽和显存读取⛳压力，对速度提8️⃣升很明显🗻。
硅谷前沿闭源模型🇲🇻🇵🇸大概率也有类似思🛵路，只是披露有👩🚒🚫限👨👩👧👦。这一路线👨🦰遵循“👫🙆规模法则”，通🏵🦇过采集海量人🌅💁♂️类遥操作或动🙋捕数据，期望🔋机器人🧞♀️🥺能如大🕖🇨🇱语言模型处🍒🌠理文本一🏂👩👧般，从数🌻据中“涌现”出物🕧📫理操作能力😙。
