（来源：上观新闻）
杨涵涵作为项目🇵🇱导演，负🐗责剧本💦🇳🇵和分镜把🇷🇪控；另🇦🇨外两人，一🇰🇳个是 🕑AI 动画师，主🕑🙊程序化广告平台有哪些攻 AI👮✊“抽卡”和剪辑；🏃一个是🏠 AI 🏂音乐创作人，负🚣责音乐和🇹🇻音效🛬🕳。你们怎么理解🔱😙 V4 的整体架🇴🇲🔋构思路？ 赵晨👾阳：V🇮🇹🍬4 整体🥌🌐保留了 Deep👩🎨SeekMoE 🙃框架和📊▶ MTP💜🎵 （Multi🇭🇲🧝♂️-To🧥🇬🇬ken Pred🐕iction，即💪 “多 tok🇵🇸🏕en 👳预测”，允🎊许模型🇪🇦一次性预测多个🔂 Token）策🔸🎩略，但在四个层✝面做了改造：注👙意力，用了混合稀🇨🇮疏注意力；✋🧕残差，使🕊🚪用了 mHC🐾；优化器®，在这么大的模🐒型规模上使🏯用了 Muo🚙n；以👨🎓及 inf✴ra 🇵🇭🇲🇿的变化，其中两🍪个关键词是 🇬🇬👨🚀TileLa👍🕒ng 🥗🧫和 FP4🕜。
DeepSeek🆕🏷 为了解决 F🧶P4 训🆚🤠练问题🏊♀️，在预训练和后🧂🥬训练上🗻✒都用了很多🐏工程巧思🗻。极致性能📱上，他们走得🚰⭕更远，这也是🧱我们接下来🤣🇦🇼要继续攻坚的☢方向👟。安全问题与监管空▪🕟白 个人🐸AI定制🇪🇪服务兴起的同时，🥥相关网络安全👮问题和消费纠🤐🎇纷也在同步🌩增长♊。这家公🔜🐪司尚未💬发布任何商业🇳🇿🔥产品，但其专🥋注于开源模型，🍦♻他们目前的🔂🈴精力都集中在🤦♂️🧶开发名为🕐 Ref🤢lection🤸♂️-1 的底层基础🧟♀️模型，没有像 C🌔🇷🇴hatG➖PT 那样🥫🦁面向 C 端用户☦的订阅➰⛄制对话产品😳📑。
他认为，这就像✉📀雇了一个兼职助🇧🇹🦟手，约😓定“看一篇文章、♑🌑写段摘要🇲🇻，给2🇲🇵毛钱”🐄🇮🇶。慢动作回放显🏑🇲🇳示，当👩🎓机器人抓取🇺🇬🇲🇳一串钥匙时，它🧥会先将夹爪指尖🧛♀️轻触桌面，沿桌面🗾🍦滑动直至🐏接触钥匙🦆，再将其夹起🖼。。为新算法🏂🏎定制新 🇦🇬kerne👭l 在 V3🇦🇩 之前并不👁️🗨️频繁⛲。
