（来源：上观新闻）
在一次内部评测中➗🎰，模型根据一段关🇳🇴于芯片架构的论文🎥🇸🇬摘要，🐬自动生成了包🇵🇷🇦🇽含晶体管密度🔴👏对比图💩🇬🇶和 3🇿🇲🐪D 封🇺🇦装示意图的👨👨👦🍨完整 post🦑er ——☢ 连 👨👦👦IEEE🎂🔜 的审稿人都误以🕎🇪🇬为是人🇮🇳🧴工排版⛽泛目录排名代发。为了补偿🥓近距离依赖，V4💷🔔额外加了一🛄🤲个sliding🧽 wind⛅📛ow分支，每个🐏query除了看🇸🇨🦊压缩KV🧲👨🔬之外，🤼♀️☄还能看最近🚅🍳128个t🇱🇷👩💼oke😺n的unc🇮🇶📤ompress🐯ed 🦐KV⛴。
研究人员发👑现，让A🍟🖇I学会解数学题🚡🤾♀️泛目录排名代发、做逻辑推理，🔜📶需要用到🔖🇳🇫一种叫做"🇹🇩强化学习"🇹🇩的训练*️⃣方法——本💺质上就是🎼🍠让AI不断尝试🏐🚣、不断根据反馈调🧖♂️整☁🇿🇦。面对这🙆👩💼一困境🐴，另一个流行方案⚠🌗应运而👷生，叫做GRPO🇬🇵🧁（群组相对策📟略优化）🇲🇨。论文原话🇧🇿📷非常诚实，🐖这两个t💸rick🇧🇼 work，但📶🧔底层机理仍是op💵🛋en qu🇧🇭🇦🇲estio📼n🚔。
我们预计，随📃着前沿实验室🇨🇴将芯片设计视为💖一项更重要的应🇲🇳用，这🧒🌶个问题将会得到🚊解决☪。CSA和HCA在🇾🇪core a💨⏱ttent🔉ion之前，都👲对query和K👨🦰💧V en🥴tries做一🦀次RMS🐐Nor🌂m，防止att🌳🗡ention 🐇logits爆©炸🤷♂️。动易科📹📈技创始🏌人、CEO兼CT🖋❇O任晓雨，把这种🙎♂️📥思路概括为四个⌛👨👧👧字： "🇷🇴以新造🤵新"🍊🚪。DC 将每个变体🕊都完整地实现⏏了到 GDSII🇬🇳 级别🍠。平台比创作♾️者更焦虑🕕。
