（来源：上观新闻）
图 | Op🧲enAI 📕实体机械手（来🙋♂️👆源：OpenA👗I） 第二条是当🏫🍰下备受♏🏉瞩目的“数据驱动😪🇧🇷”路线，🐇♓以 Phys🇬🇮🤠ical I🔎📚ntellig🍵♒enc🚄🇪🇦e（简称 π🇬🇺）为代表🈸。晚点：正好这几🎼📙天正在开👨🦰🏎 ICLR （国🐖际学习表征会议👨👧🌸，Inter⚱🧟♂️natio❄nal Conf🕡erence o🗯◻n L🍯🍛earn👽ing R💀epres🌦👡enta🐦🐨tions，AI👩👩👧👦😮 顶会之一）， 📖🐹大家在会场🎠是如何讨🌈🤞论 V4 和💁♂️😡同期进展的？ 刘📇💝益枫：有意思😮的是，V4🗝 放弃了👋🍅从 V2 到 V🇧🇼3 使用的🇸🇨 MLA（注：多😗📳头潜在注意力，💿💏由 Dee😈💜pSeek🦷 提出），而👱目前 🇫🇲K 2🏪🕍.6、GLM-📔5.1⛹ 等模型依然采用🤬 MLA🕉。
AdamW🌮 本质上🕒结合了动量和更新🇲🇺量归一化两类技✅👨🏭术😟🛳。六种并行策略➿🆓（DP、TP🚫、SP、EP、P🌕🦚P、CP）🚃的正确性、🈷训练与💸推理的一致性、i🍅🖖ndexer 🤴replay、F🌻🔠P8/BF✝🔍16 混合😢采样——任何一🧥环出错，😜奖励曲线就起⬅不来💇♂️。赵晨阳🌦：我之前在 Am✌azon AG🇯🇵🍲I S🔉👱F Lab 实习📅过，也和益枫在🇵🇬🇮🇨字节 Seed 💺实习过🐓🌹。但模型问题缓解之👩🎓后，更深层👩🦲的约束随之🇭🇹浮现：代码库🕸📮中的业务💶隐知识🧒🤬、历史决策🍶与架构习惯，并不👩🤦♀️会因为模型升级而⚓🎣自动变得可理🏉解🦹♀️♈。
