（来源：上观新闻）
开源模型上了🔌万亿参数👧规模后，👩🎨部署成本很高，个❎人无法负担，个⛷人不可能有 H🇸🇱📲200、👩🌝B200 🧱或 910B 🇮🇴🇨🇨这种 GP🐾👔U📡㊙。对于平台🐋📷来说，优质的内容😕和清朗的生态是平🇸🇯台健康成长📂⌛、长远发🇬🇲🇧🇯展的根🚗🍘本保障🅿。老旧项目没有完🇦🇴🙈整的规格说⚒🕧明书，🈶它的 spec🌎🤙 就是代码❤本身🎎。后续台♥积电不再🔂为华为🥁代工，华为😈转向中🐴📍芯国际👔的类7nm工艺👧🌛。
（注：按参👕🏫数量和训练数据量🇮🇶♌粗略估🇱🇸⏰算，V4 的训练🚪🦐计算量可⛄能接近 V3 的🎈网站源代码是什么意思 3 倍） ☦赵晨阳：这是🧔一个信号💚🦹♂️，De☸⛩epSee🌯⏫k 不再靠👑 “成🙎♂️本叙事”🕜 定义自己，💓而是用模型能🔸力说话👲🇺🇿。当时这个项目🎚⬛最出圈的成果👺🚶♀️，是让机械🤡臂在仿💺真中自学解🤤🍲魔方，2👨👧👧⚖019 🇳🇿🐯年 Op🚰🇸🇰enAI 🛀甚至发💕布了一段机🚣♀️🎂器人单手🗿9️⃣还原三阶魔方的😋视频，⏮📮引发广泛🔕🍾关注⛵。
所以我们设计🤽♂️了 Shado🈶📪wRa✴🦍dix 🈚🚘来应对🅰⛹️♀️——三个异⚔构 KV 池（S🧗♂️🇨🇼WA / 😑C4 / C🇵🇷128🗡📢）加两个压缩💇状态池，要在预🕑🦹♀️填充、解码、投机🔓🙍解码三个🗓阶段保持同步🚖🇲🇨。晚点：关于测🕵评部分，前面已🇧🇼🇲🇱有部分讨论，还有🐃🌎什么补🤑👩🔧充吗？ 🧴赵晨阳：有一位 🤳🥛NLP👩🦱 领域很知名的研👨🍳🛂究者说🧵过一句话：We🙉🔯 cannot 🇧🇦optimiz♿e what w🔌🐙e cann☺🇨🇮ot eval🍁uate💒，“如果一个东🙉🌆西我们无⏭法评估⛰🥦，我们就无法优化👂🧚♀️它”🇦🇩。
