（来源：上观新闻）
这次的😴核心改进是什么？🇵🇭〰主要解决什么🇧🇯🕍问题？ 刘💫益枫：V4 的♒◀每一层都同时跑▫🕵️♀️滑动窗口注意力（🌖SWA）🏪和一种👸长距注🏴意力（CS✂A 或 HCA）⚡。可以想见 RL🐲HF、R💋🚟LAIF（基于🐪🍱 AI 🇻🇺反馈的强化学习，😎🈵用 AI 生成的🥭🕕评价或🔯偏好信号来训⚰练、对齐🇵🇾♉模型）这些🌚对齐方法经📻过几年积累，🥑🚕已经形成🇧🇪很强的数🇮🇪🇵🇰据闭环🔈。
代码库是干净的，🌳它就放⛺大效率和创造🕢力；代码🚻库一团🎪乱麻，它🇱🇰💭就放大👩🦲🇸🇬混乱🇧🇭。张欣刚同时表示，🧗♀️从终端📞🏭AI投资领域📎来看，国8️⃣内国外的🕚客户需求增🤴长都比较快🈷。但即便如此，👮♀️这个趋势仍不可🗄🇻🇺逆地发展，因为👩🦲🍤对各个👨🚀团队来说，优化模🦴国内做seo最好的公司型解决问题的能🚶♀️力还是会优先于优🍹化推理的简👩🔧🏌️♀️洁🇼🇸🏢。
