（来源：上观新闻）
因为V4🥪把head 🔼🥙dimen♋🖲sion c设🔙成了512（比💁🦢V3.2的128🆕🔈SEO网站推广大得多），如果直🇸🇮🧢接把所有head🐪的输出投影回🐺d维会很贵，🔳🚁所以做了👨👧👦🇨🇿分组投影，把🇳🇮n_h🥜😎个hea🏯🔙d分成g组☮，每组先投🙆♂️✏影到一个中间维🌝♉度d_g，最🤢后再合🌨并投影回d🇿🇲🏷。更致命的是，💁♂️VLA只🇧🇻能“模仿”训♻🧤练数据中的轨迹，🧝♂️它不理解杯子为🇦🇼🍧什么会🍷🔰掉，也不理解为😛SEO网站推广什么盘子悬在桌边🧭需要推回去🎋👷。
最终，🌿🤚PANDAS🅱ET 包含了超过📐52.8🇲🇬万对图像，覆盖🧖♀️训练集（约48️⃣🇨🇫8万对）、验证集📜🎫（约1.2万🌴🌺对）和测试集（约🔋🥼3.6🙀‼万对）🧷。在官方的推👪🦓文中，也侧💼🇺🇦面印证了这☯个说法： 目前🙋DeepSeek🌫-V4已🐂成为公司内部🖋员工使用的A👨🚀gentic C🛸😖odi📍ng模型，据评🇳🇿测反馈使用体👭验优于So🚒🤙nnet 🇧🇻🇱🇮4.5，交付🥶🇮🇨质量接近Opus🚪⬅ 4.🇨🇮6非思考模式，🔭🇵🇼但仍与Op😣🌄us 4🅿😙.6思考模式🤬🕖存在一定差距💿。
第二步，OPD合🇲🇲🐴并🇦🇫。MoE用1个🇨🇩🔐shared e🧠xpert 👗+ 256个ro🇺🇦uted 🇺🇬🧸experts🍋🇧🇬，每token🧴😯激活6🧙♀️⏩个🥕。AI带来治理新😏挑战 🥶AI的狂飙，👩👩👧👧📍也带来了前🌫所未有的治理🅱👖难题👨🦰🇷🇼。
