（来源：上观新闻）
论文表示，训练中⌨🕳间出过一🍷次严重的🚴♀️loss s👓pike，De🏧epSee🎉k摸到两个土办📄🇨🇼法，A🎓nti⛅cipat🇨🇳ory R🥽outing和👨❤️💋👨SwiGLU 🇬🇾🍚Clamp🇲🇩ing🔜。"厚状🍁💝态"说的就是那🇸🇴👘个共享文件夹——😠它积累了所😎有真实的工🌟🍟作记录、设计图纸⚙🇲🇪、问题诊♾️✊断，是整个项目🥦真正的🚈🏔"记忆"所🤽♂️🎣在🇧🇧🉐。第一条，百万toℹken上下🙂文全面开源，🏯🚵♀️KV cac🤝he大😏🤓幅缩减🇰🇾💧。我们观察到一🔥😾些模型做出了次👩👩👧🌑优的设计选择📑🔬，最终需要消耗大💪量令牌才能进行优💐化🆎💨。。为了确认SP🇦🇪PO的优🌠🍙势确实🧖♂️⏪来自其核心🥂设计思📣🔁想而非🐍其他因素，研🍖究团队还做了一个⛴对照实验：🔟🌘把SPPO用🗄❤来训练价值模型的🍾🦖方式（二⬜🥛元交叉熵损失）🕝🕐直接嫁接😞🦷到标准PPO框架🌧‼上，其💂♀️🕒他一切🇷🇺国内比较好的saas平台保持不🇸🇮🌤变，命🤯名为"PP🇹🇻🧜♀️O + 📭BCE"🥼🇦🇪。
未来三年💕©，具身智能🗳🧯研究院聚焦两件🌨事：第一，👯补足具👦🥰身智能产业链短◽🚖板，虽然汇博◼🤷♂️机器人能🇺🇸自研关节，但具🧘♀️身智能还需要极高💦精度的灵巧手、执🤮🐾行器、触觉传感🇱🇮器等➖。网络视听🌉🤯司副司🔇🤢长杨铮则更🕋🇨🇮直接：“人工🌡智能正在以👴🍕前所未🏆有的广度⬛👗和深度，重塑内💎🇵🇳容生产和传播的🔽底层逻辑🇮🇲🇧🇷。匹敌闭源🏦💙。结果呢⚒？模型给出的回答🤺根本没有涉及🚯区域对比🙂🇪🇭，也没有🐒☸质量评分，🐂🦇甚至漏🎳🙊掉了某些区域，给🖌⚪出的是一段对🍠整张图片的笼🦜🏳统描述🚐🥪。这说明"找准薄弱🇧🇲🛰点精准训练"的🈷效率，远高😒于"撒网式地🌘大量训练🇵🇸🙅"🤮。
