（来源：上观新闻）
IT之家此前📂🇲🇼报道，微🚄软在 2👩👦026 年的变⚡🚓革将聚焦解决用🙉户长期🏳️🌈诟病的交♿互痛点，具体优🤱化措施包括减🥈⬅少开箱体验中▶🈳的广告推广，测🎡试更流畅的😰首次设置流程㊗🏹。陈先生🥶🦟的需求并不👄😓是个例◼。现场一位🏈💧猎头告诉《科🐃创板日报》记者👨🔧，现在自🌸己手里的offe♎r，AI相😹🥙关的岗位占比明🥴显变多了🥃🕠。“从早期🏏的Coze（👐扣子），再🇮🇷到寒假期间已经🇸🇸出现小龙虾，🚼🗨现在又出来👧🇵🇹一个He🥔2️⃣rmes Ag🕠💪ent（开👅🦇源自主👩💼🌾AI智能体👨🚒🍦）💙。
尽管进展💗迅速，但👮高度依赖人🇲🇹类演示🧱🇨🇻数据的特性▪，也在无形中设定😶❗了机器人能力的♑🌷上限🕊。你们怎么理解 V🤠👘4 的🚶♀️🏴整体架构思路？ 🔇赵晨阳：V4🦓💜 整体保留📄♈了 Dee🇲🇻pSeek📭🚸MoE 框🙋♂️🚧架和 MTP 👚📮（Mul💳ti-To💄🇲🇻ken 🤸♂️Pre💤dict🆗ion，即 “多🇹🇰 toke🙅n 预测”，允许🧝♂️🇧🇱模型一次性🇰🇼🇹🇹预测多个 ♦Token）🇻🇺🛹策略，但🇮🇪在四个层面做了📢🍋改造：注意力👨✈️🌧，用了混合稀疏注💞🌴意力；残差，使🏌️♀️🕐用了 mHC；🥡⛴优化器，在这么❄大的模型📪🇻🇮规模上使用⏺了 Muon👨🎤；以及🇹🇯 infra 的🏠变化，其中两📚😅个关键词是 T🍙ileLa🎟ng 🧳和 FP4🏝😦。
