（来源：上观新闻）
V4-Pro 🇺🇿在编程🚜🌝评测 Cod👹eforc🇧🇬es 上得分🔨 3206，比👨👦🐚肩 GPT💗🤧-5.4；🌘在软件工程基准 🛒SWE-ben💞ch 上达🇬🇫到 80.6☕🍫%，接🚄百度竞价官网近 C🧂🔗laude O🌿🇺🇦pus 4.🖇6；Agent🥐🗞ic Codin🎮g 能力在🇬🇪开源模型🍼🥒中排名最高，内部♦🦔测试中交付质🍘😣量接近 S☁onnet 4.🎉5——此前这个层🔴级的能力几乎被闭◼🤔源厂商垄断🥪。
” 神州数码💼、拓维信息、川‼润股份🇧🇦，这三🤔🎤家公司分🥼🎭别做整机、系🇩🇴统集成、液🍨冷散热💤🇨🇩。你们怎么理解🚸 V4 的整体🥦架构思路？ 赵🛩晨阳：V4 整体🤽♀️🇹🇴保留了 D🔰eepSeekM🍽😊oE 框架💭和 MTP （M😔ulti-Tok🏓📀en Pr🆖🔏ediction🙎♂️，即 “多 🇬🇸token 预🍨🔙测”，允🧶许模型一🏋️♀️👡次性预🇧🇭测多个 T🇸🇷oken👑🌱）策略，但在📳四个层面做了🈸改造：✌📌注意力，用📬了混合稀疏注意🏪力；残差🕗，使用了 mH🍏👩🏭C；优化器🇰🇾🔇，在这么大的模⏫型规模上🕔😛使用了 Muo🌦n；以及 in🇱🇰fra🇧🇲🦢 的变化，其中两🇨🇽🛬个关键词🤱是 TileL🇲🇳ang 和 🍪FP4🌔📘。
