（来源：上观新闻）
尽管He🗓rmes尝试⛸通过抽象和筛选提👩👧🤒升效率，但这一♊🤮过程并非总是有效🇮🇳。这张图谱，被🚡研究团队命*️⃣名为*🤾♀️📁*失真🔸图（Disto🤾♂️rtion G↗☀raph，简称 🇬🇦🎨DG）**🔱。因为KV🇹🇦 en🧟♀️tries既做🛥key又做val🇳🇷🌭ue，na❕ive的Ro🥞🌪PE会让输出带⌨🇳🇪上绝对位置©📡信息，所以在o🥬utput端😺也对应施加一个😕位置为-i的🈂🇱🇷RoPE来🔭抵消，只保留🌞🦔相对位置信息⚪🥰。（3）♊技术精🤠湛 LLM在📝众多领域拥有深🇲🇨🇱🇾厚的知识，🧸⁉这可以说是🚹他们超越人类能力🥑的一个方面🈹🇾🇹。
它有意保持了架构👁️🗨️的简单，留😂有很大的改进空间⚾，特别是在处理🔌视觉细🎂🤷♂️节复杂的区域☠👩❤️👩时🇨🇨。Muon优化器：🥥🇸🇷从Kimi那🦓📉边借的🦢。这种警觉🚼，很快变成行💽🇫🇷动2️⃣。TRACE🌗☹的对比分析逻🥓辑与此完全🚵🆎一致：一💣种能力如果💯🍔在成功案例中也经📃常缺失，可能只💛是因为任务本身🇸🇨并不需要🤬👨👩👧它，或🤷♀️🦉者该能🔝力的定义本身❌🐞就不够清晰；💇♂️只有那些在失败👓案例中明显更多缺📛失的能力⚔🇵🇳，才是真正的🏆薄弱环节🌞。
AI带来的效🇲🇫1️⃣率与成😽🍠本优势🌊，确实让各大平🇻🇨🔱台难以🐿🥿抗拒🌒。一套看似优雅的后🇹🇩🎶训练方法论，背后🚃🐌是一堆「不这🕵️♀️☕样做就装不下」的🥾♈工程妥🌉↗协🍖。这一定位意味着💬🔎，这项研💟究填补了一个明显🐇的学术空🏙💭白，并为后续研💅🇹🇯究提供了一个清晰🦶的评估🥾框架🕉。当AI解一道数🇮🇩学题时，它可🥗能需要连续输😷🐎出几千个🚜字的推理过↪程——这就像一篇🥣很长的🗄🐬侦探调🚀查报告🇪🇦。
