（来源：上观新闻）
Tran🍏🛣sformer、🎃scaling🦙 law、RLH🇧🇼🏄♀️F（基于🕠💮人类反馈🕋的强化学习，🎉一种对齐方🦜式）、测试时扩👨🔬展，这些是🤷♀️范式🇪🇺🇨🇴。在科学研究🤳👒、领导决〽😪策或个人成长中🏺，拥有这些美德的📗🇦🇮人，往往比单纯🏄🍚“聪明”或“情感💙丰富”的人🏃更能接近◼🙏真理、😵▶做出明智🗑😞选择🇳🇪。
不仅引进了 mH🇬🇵🇸🇷C（流行🏚约束超连接）、🛒起始层🔏哈希路由等技术🌆，还大胆使用了 ⛔👢CSA 🌍🦃和 HCA 👨✈️等 token🏴-wise 的🚌🌁压缩技术，创新⛷📷性使用🐸了不同于一般实👨🔬践的 M🤼♂️☠uon🇲🇵 超参数，🏨甚至放弃了既🇧🇸有的 MLA🍕🇪🇷 架构🉐。我们 SGLan🇹🇬🏌️♀️g 的 R🇧🇸L 团队去🛤🐊年也做🌟了两个🎼🐴相关工作：FP8🏓 全流程强化学🐦习，训练和🇹🇭推理都用 🇨🇴😛FP8✌🚕；还有👯♂️ INT4 的4️⃣ QAT📕🧞♂️ses是什么意思。
