（来源：上观新闻）
在Luna🤹♂️🗯rLa🦁nde🛂r上，SPPO🔤保持了稳定上👵升的学习曲🏟🙊线，而🧔标准PP🇵🇸☯泛seoO则出现了明🇿🇼🍈泛seo显的波🍄🇮🇶动和倒退🚧。过去的💋图像生成🔧👈模型，本质是⚜👩⚕️“黑箱抽卡”：输✔⏸入一句英文，模🎻型直接吐📳🤦♀️出一张图👨👨👦👦。这部分继承🇲🇱自V3.🥳2的DSA↩。tokeniz🤡er仍用V🔁3的128K😧⬆词表🏸🅰。
因为V4🔐把head di🎉🧁mension👳♀️🎬 c设成了5⬜😫12（比V3🇳🇫😙.2的128大🇸🇯🚓得多），🇧🇷如果直接把🤧👳♀️所有h➰🇦🇨ead的输出🏀🏵投影回d😫🏤维会很贵，所以做🐝☂了分组投影，把n🇦🇽_h个hea🌎d分成g🐎组，每组先投影🇬🇭到一个中间维度d🔊🏯_g，最🚦后再合🤓并投影🉑⚠回d⚪。第一层是序列长🦜度压缩，n📗变成n/m🥅😊。与OpenCla▫🈺w不同的是，He🎄🎋rmes🔭多长了“脑🔲子”，主👨🏫打自我进化，🇧🇱🧞♂️这也是其🌋迅速走🦄红的主要原因🥣🍺。这避免了信🔎😵息在反复"传话🛣🥅"中失真或丢失，🦡🌓使每轮💠🐴工作都能真🇧🇧正建立在🍒之前积累的基础🍴👨🦰上🐨😁。
这是因为打❓⏬分员需要理解🕔AI在🤯每一步🏞的输出🇻🇬🇱🇧，从而估算当前🇸🇱🍱局面的⚒🌇价值，而这种理解✔🧾能力要求🏟打分员具备🇨🇮和AI相当🇸🇽🎆的语言理解🍩能力🇳🇴。每个专业🦑🧝♀️代理只能写它🎃职责范围内🕖😿的文件，📷🇵🇭共享日志🖇只能追加不能🏃♀️🍞覆盖🈶⚛。在没有明确任务目🔖💍标的情况🚢下，Agen⛅🌥t往往会🏎反复试错，消耗大🥬💛量Token，👬🍀但产出💟🇮🇸并不稳定🗽。
