（来源：上观新闻）
减少存🕳⛲储位宽的好📁处是减少峰值算🎸力，同🦵™时提升显存容量🇻🇬和数据读🧩🇩🇪取效率🐀🚖。训练阶段，优🌒🥂自己做seo网站推广化器维持 F🎞📽P32 主权重🚈🧦，计算前先🧐🖲压缩到 F🇫🇯P4 范围，再🚫🔗无损反量化回 F⛈🎇P8 ✉计算🇨🇩。截至发稿，特斯😗拉尚未就此置评📁。在小红书上搜索“🔜🐷自己做seo网站推广IQ100维权”👨🇲🇱等关键字💸🥡，有用🤹♂️户称已经顺利换新🧗♂️，但普遍反映🕴🇮🇴客服“装傻”，🧬用户强烈要求才🏠💣同意换新，整个📖流程也比较复⚒杂🖖。
更值得问的问6️⃣🙊题是：沿着👼🐒现在的🌞🇬🇵 LLM 范式🇨🇳🇵🇹继续优化，💥还有多少空间？上🏎🛋限在哪儿？↙ 我判断还有相💩🇨🇻当大的空间，但🇮🇨每一步都更难🎼。同时我们🆗🗑的用电💊🥾均为绿电，从🚥源头保🇨🇲🔸证整个产业链的🍵🔗绿色、低碳可🇧🇬持续发🇵🇹❕展🚹。美剧《黑镜》第💇♂️🧙♀️三季剧照🖐。这个改进既需要🚹对 HC☑ 的潜力👵🦵判断和🎣🐳细致分析，又需🔽要基于内观指😥标，如梯度的👩 scal🇵🇭e、激🇺🇾🍣活值，从🥘现象倒推怎么💝🥕解决这个问题📿🎙。
晚点：正好🇵🇲这几天正在开↗ ICLR （⛽国际学🇻🇬🇱🇰习表征会议，In🏖terna🇬🇸⚽tiona🕑l Co🙀🇲🇱nferenc🥙🕧e on L🖇ear🎭⚪ning R🉐epresent🇹🇿ati🧖♀️ons，🚟👒AI 顶会之👠一）， 大👻家在会场是如何讨6️⃣✖论 V4 和🔧🙆同期进📂🧝♂️展的？ 刘🚪益枫：有意思👨👦👦🚵♀️的是，V4 放弃🥔🌷了从 V🤱2 到🤹♀️🧳 V3🌩🎲 使用的 🅰MLA（注🕧〰：多头潜在注意力🐔，由 D🇽🇰🐋eepSee🇫🇲🇬🇺k 提出），而目👯🤱前 K 2.🚰6、GLM🤴-5.1🇬🇹⏯ 等模型依🐤🐸然采用 🆎MLA〰。
