（来源：上观新闻）
你们怎么理解 🍋V4 的🔚👨👩👧👦整体架构思路？👞🍟 赵晨👟🍏阳：V4 整🧢🏌体保留💭了 D🕤🦌eepSee🇩🇰🌦SEO/SEMkMo🥄E 框架和🕶 MTP （📮Mult👡i-T🎤oken Pre◀🏫dict📗🙅♂️ion，即 🌓“多 t🦇oken 预测🚴♀️”，允许模型一❌👨👦👦次性预测多🇿🇲个 T🌐oke🇳🇪🕛n）策略👫🇬🇪，但在四个👵🦆层面做了改造：🛂注意力🌲，用了混合稀疏🧯❤注意力；⚽残差，使用了👨💻 mHC⛳；优化器，在这么➕🚤大的模型规模🦷👨⚕️上使用了 👨🦳Muon；以及 🛑🕴infra 的😍😘变化，其中两个关🇾🇪🇵🇲键词是 T🇪🇺🦇ile🚵🎸Lang💴 和 FP4😦🔰。
比如现在👨💻🕊和豆包语音✉👾对话，它语音🖨🇺🇬吐出的速度很快👩👩👧👦🇲🇦。因为去年🕎很多大模型和🕰😏智能硬件，比如A😮🚺I眼镜等领🚿域公司的规模化🇯🇪开始加速，对人才🧷🏆的需求也更多了👫。这才是新人🇹🇻🚸文主义应有的🏋姿态——不是🆑对“人性”的💇🌖无条件礼赞，而是🐚🐟对“更好的认知”♣SEO/SEM的持续🇩🇲追求👩🦰💉。Meta公布的🇻🇨💨第一季度营收为5🍜63.🚭1亿美元，🎒同比增长33🥓%，超过分析📤🇪🇦师此前预测🐓🚭的554.5亿美🍐💳元🎃。
晚点：如果🈵🇷🇪 DeepSee☦🧨k 把官方推⌚理框架开🌽源，它🚄和其他开源推😽理框架🖍🦁会是什么关👩👩👧📧系？ 赵晨阳：这⚒☝涉及开源🇧🇿✊和闭源推理🍖👅框架的😩2️⃣哲学区别🇫🇴。这表明，在特定🥦的文明🍆👩阶段，人🔼😏类面临的❇根本处境具🏦有结构性的相☪🚴♀️似性，因而🌹产生了相似的哲🙆🦔学回应🇺🇿🇨🇵。稀释后每股收益🇸🇽🍀为2.01美😒🛌元，同比增🏪长22%，🏦🔨均超出市场预期🐐🎈。
