（来源：上观新闻）
Infra 🇨🇽两个关键词：T⛸ileLa😧🦟ng 🖥& FP4 晚点8️⃣：正好你*️⃣🇹🇨提到了 Ti🇵🇱leLang，接🚵♀️下来就是想👮♀️🔤聊 DeepS📃🧒eek-V4 🎬🎡报告里 infr🔭a 部分使用的❄🍛 Tile🚦Lang 语言❓🇺🇳和 F💘🚆P4 训练精度🇵🇼📀。另一个⤵新面孔是 R🏄eflectio👨👩👦👦🤴n AℹI，该公司由🥍🍈前谷歌 Deep🇮🇹Mind 🇬🇷✴研究人员于♻ 20🦟🎙24 🤱年创立，去年其筹🥃集了 👑🌱20 亿美元🐐资金，估值☎据称已经达到 🧛♂️250 亿美元☎🇰🇬。
这期我🌶们从 V4 切入🇹🇨🏅，自然而然聊▪地到了 K🏁📂imi、See🥠🇸🇩sem是什么检测分析d、MiniMa🇵🇳sem是什么检测分析x、Q🛹wen、智谱🇳🇮🕴等中国其🥕他大模型🔀🇬🇭团队的努力和进展☦🍜。罗永浩🎭更提问🥓，“这🇬🇱🍛sem是什么检测分析回应是之前的，🤞🇹🇦还是刚刚做🚨👽的？如果是👩👦👳刚做的，那就💨有得看了♨。你们觉得👱♀️大家现在👩⚕️努力的共性👍😶是什么？ 刘😢益枫：开源模型的🇹🇬方法和🇹🇷🇴🇲架构在趋同🧖♀️。
拧灯泡🇬🇶，对于人💢类来说是一个简👹👃单到下↖意识就能完成的任🇫🇴🍜务👨👦👦。Muon 的优势🔁🇪🇨是砍掉了🇧🇱🇲🇼二阶动量，op🔻timizer🇹🇰 state （🇳🇬优化器在更新🐉🎾权重时需要🉑持续记录的内👩🦰🔼部历史数据）从两📢倍降到一倍🏭，能节🇬🇳🕷省相当多🙋♂️显存🍡。我们 SGL😥📸ang 🌴团队也针对推理🏉🚐场景的小🇹🇬批量解🏑🎖码做了👨👧🐱 spl🇱🇷it-K（把矩阵🎰😶乘法中的 K 维🧳💕度拆开并行计🍩算，以提升小批量🏴🇿🇲场景下的♟️硬件利😒用率）的📊 Ti⚾🎮leLa🏢ng 版💄📒本🖼❄。
