（来源：上观新闻）
你感觉不🛀🇹🇴到这些，因为你🙎♂️⏯的具身系统无法🇸🇽将"结构性趋势"🇬🇾📒转化为🇲🇴🇮🇳可以感🇪🇭🍫知的信号🥮。在非常微小的差距🤪🥎里排先后意👨❤️👨义不大🕒。） RL 侧🈹🧛♂️，1.6T M🚨oE 全参数训练🐤🈲对系统🧀🥑要求很高🇬🇼。他直言，自己😙🏄♀️会更欣赏表达🍊能力好、沟通能力🏡👢强的学生🎃🚵。
首先是性能上⚫🇳🇨，两位怎么看👂 V4🚻✳ 的 Ben🈺🧘♂️chmar🏉🎲k 选取和📘🦁分数表现？🇦🇹♦ 赵晨阳：V4🙃✌ 明显测了更多和🧕 agent😝ic 相关的 B🇵🇹🦕enchma🌨🕴rk，📱尤其强调工具使🎃🌳用、多步规划等🎨🔸。他同时🇯🇲表示，大厂集⛩🚆中加码AI推理🗞🎅部署，为💾国产算力带🛡🇩🇿来了全新的增量🔔🌝机会🚕🔼。这意味着这🔶些 AI 可🚬以接触最高级别👨💼的保密数据，用来📸辅助战场🌖🇧🇩决策、情🙈seo和geo是什么意思报分析，甚至生😕💨成打击目⛷🤾♀️标清单🇦🇴seo和geo是什么意思。
以前的 T🙍🗓ransfor🐃🇬🇾mer，层之🏘间只有 d 🐸维的信息流宽度❎🕰；但现在是 d🕶🥠 维上加🥌🗾了 ch🤹♀️annel 🦝🇱🇾维，信🚈息流宽度变🇬🇷成 d x 🧜♂️🦎c，推理能力显🥅🆔著提升🤲。真正的🐩🕛人文精🇨🇱🥡神，从来不🈸是对人💃🤹♂️类本能🌍🛐的无条件礼赞🗞🎌，而是在清醒地认🕊识自身局🌦限的基础上🈺🇸🇳，依然选择去思😓考、去🧫质疑、去💷👾构建更完整的认🧗♂️🧖♂️知系统🏐🎆。你们怎么理🇳🇱解 V4 的✅💭整体架构思路？ 🐊🏧赵晨阳：V4 🌙整体保留了 D⁉eepS🌃💙eekMo👝E 框架🇷🇪和 MTP 🕞（Mult▶i-To📿ken Pred🇧🇱🚈iction，🍱🔑即 “多 🇳🇷toke🇵🇾n 预测➖”，允🥅许模型一次🇸🇰性预测🇬🇮多个 T🥖🔹oken）策🔫略，但在四🎰🧐个层面做了改造：🇸🇦注意力，用了混合☺稀疏注意力；🇳🇱⏺残差，使用了📥 mH🤠C；优化器🧝♀️，在这么大的模🧶型规模上使用🇸🇲了 Muon🆚；以及 🔌infra 的🤼♂️变化，🗿其中两个关键词🕛是 TileLa⌚👩💻ng 🤷♂️和 FP4🧮。
