（来源：上观新闻）
一个真🇦🇽正复杂的任务，📐💧本质上不是一条直🇸🇷线能跑完的🏪🛣。Flash-Ma😾x可能是这篇😫🏺论文最被🏴低估的一部分🏭🗞。"赌博机"🌔🧦这个比喻很🕡♠直观：你走进一家👩👧👧赌场，面前有一排🔍🇿🇼老虎机（🛑每台代表一👭道题），你拉🔮一次摇臂（生成一✉个完整答案），🇪🇷🥅立刻得到一个结果🧣（正确或错🇰🇲📧误），🏛然后你📗🚃根据这🥃个结果决定下🚅次对这台🔇🌎老虎机是否继续💘🥥拉🇸🇯🥪。第一，引入mHC🐇（Manif🎶old-➖🖕Constr🇺🇸🍂ained🗯 Hyp🇸🇮🈹er-Conne♦ctions）🤗强化残差连🏯🚄接🤕👼。开源模型匹💺🏌敌闭源头部，🥺📼这次是真的匹敌了🥳🇨🇬。
过去，训练一个↩70亿参数的推理👩模型需🇸🇱🙇要同时加载一个同👱等大小的打分🇸🇨员，内存压力💨🔊极大；而S⏳👩❤️💋👩PPO允许用🇲🇴一个小十倍的🇸🇲模型担任🍊🏫价值预测者，🎥📨让更多研究者能🌌够在有限👨🎓的计算资源🇲🇵下开展实🇧🇫⛵验🕖📰。PAN🐒👩🎓DA 😱🚣♀️使用8块 🇼🇸🇵🇭NVIDIA 🏴V100 32G🌌🎎B 显卡训练，🤓🦀批次大小为6，总💯😱训练时间约😸💐1.5天，使用 🧥🛩AdamW 优🇯🇲🏒化器，学习🇦🇫率1e-4，权✂🍎重衰减0🤥🚐.01，共训➗练30轮🐣🖋。
