（来源：上观新闻）
他向《科创板🇧🇪日报》记者表示：7️⃣“比如在医药行业☦和供应链行业工👑作，你需要先🔉了解业务🇱🇦🎤。当地时间3月📲18日，黄😴🐷仁勋接受C🦝NBC🍇采访时📷称，英伟达“已获🐻得中美双方🇮🇹的许可”🌤。内部人士的消🚩↔息显示，部分此💳🚻前在V☃ision P📻ro的🐼🚳员工，已🇲🇫经追随🚯Mik🤩🤾♀️e Rock🤳⚛well转向🎐了Siri🈷团队，Ro🌅ckwell此前🇨🇿是Visio🇮🇪n Pro😢的主管，从去年3🌘👑月份开始领导S💞iri团队🎏💇♂️。
你们怎么理解 V😭🤫4 的整体架构💖🔪思路？ 赵晨阳🙇🐫：V4 整👐体保留了🇧🇹🌇 DeepS🔈eekMoE 框🦈💜架和 M🎟TP 🇫🇰✍（Multi-🍜🔊Token🏌🦚 Pr🔨🇦🇪edi🌂ction，即 🇧🇬🥪“多 tok🧵🇻🇬en 预测🧚♀️”，允许模🇬🇫型一次性预测多个🚜 Toke🌐n）策略，但👋👡在四个层面做🇿🇼了改造：注🌂🐒意力，用了混合稀👩🚒疏注意力；残差，🇹🇲使用了 🛬🤸♀️mHC；优化器，😎在这么大的🛋🇮🇸模型规🉑🛄模上使😇用了 Muo🚽n；以及🇮🇪🎚 infra⚾ 的变化，其中👨⚖️⛪两个关🏥🧿键词是 T✌🏹ile🕐🎫Lang 和🤰🇾🇹 FP4🎹。
Dee🌀🇬🇩pSeek V💛📏4 首👊🚱次彻底脱离英🦜伟达 CU🛂📟DA 生态，🈲全面适配华为昇腾🇭🇹平台完成训练🔪🎮。晚点：关于测⏳🦛评部分，前面🕤已有部分讨😘👩🍳论，还有什💼么补充吗🐇？ 赵▶晨阳：👩👩👦🏡有一位 NLP🇸🇲 领域很🌌🕯知名的🌤🦗研究者说过一句话🇳🇱：We🦐 canno🎶♠t opti🛁🚧mize🇻🇳 wha🕶t we ca🌫🌱nnot e🇧🇼🇨🇱val🤢🤕uate，🤮🇬🇶“如果一个东🔜🍒西我们🇳🇿无法评估，📈↩我们就无法优🇲🇭🌓化它”🌨📏。
