（来源：上观新闻）
中经记者 夏🏞治斌 🌼上海报道 在人工🏣智能技🤓术持续迭代🚂、创业👩⚖️组织形态不🥀🇳🇿断轻量化的当下🧝♂️🐶，OPC（一🔨人公司🇸🇳👩👧）成为数字💑经济领🇲🇻域备受👂关注的创业🔜新范式🍜🚌。V4的做🇰🇬法是teache👠r权重offlo🇿🇦ad到分布式🎍🇬🇳存储按需加载🙀，只缓存hid🏟den stat☺🇬🇷es不mat🌆🖕erialize🚘 logit☠s，按teac🔱🎯her排序样本保📔证每个🇨🇻mini🛫-batch👙只加载一个te🤳acher he7️⃣ad📤🏹。
一些细节微调包⛵📏括，affi➰nity 👀score的激⛏🇳🇴活函数从Sigm🥶oid换成了👩👦👦🛫Sqrt(So🍇🏀ftplus▪🇰🇪(·))，去掉了🕹routing 🔶target n🤛🕕odes的数量📁约束，前🇹🇯几层den👨👨👦🐵se FF🇧🇷💸N换成了用Has🦷h ro🍕uti✏🥨ng的Mo🧦E层🇬🇳🤽♂️。与上一🥯🌶代Ironwoo🇭🇺d相比，👨👧👦🔣TPU 8t和☀TPU 🕶🔶8i在🥽🇧🇼单位功耗性能（☮per🤖formanc🚣👩👦👦e-per-wa🤘tt）方🔳面最高可实现两倍📭以上提升🐷🚎。
