（来源：上观新闻）
这涉及两个🥣关键创新：其🤼♂️一，C🐈🏸SA/HCA混合🏥💘注意力机🦴制大幅压缩了K🧙♀️V缓存占🧸用，1M上下文🥍下，V⚙🦐4-Pro的😠🛁KV缓存仅为V3◼.2的10🥽⏸%，V4-Fla🇵🇼sh更是压到7%🌏🇮🇪。在近期的答疑会上🤕，姚顺🇲🇸🇫🇮雨针对AI L💣⛄ab与混元的整并🇨🇭🚐，也做出了回应🎃🤨：要打破部门👨🦰墙，让AI基🍆础模型的🚻开发和研究架构↕更年轻、更♦直接🇵🇪。
AI最终是🇯🇴🏳️🌈能让影视👾🚹行业回春，还是引🐐🐙火烧身，难🌎以预料2️⃣。其二，据公开论🕯文推测🐈，V4🕷采用的En🎾♿gram架构把⤴模型里那些“🕘死记硬背”的🇺🇳静态知识抽出来放🧾iso认证是什么入独立的🎺内存表，推理🧿时CPU负责“查🇨🇾🤣字典”检索知识，🏁GPU只❤😒负责“想ℹ逻辑”计算🐈推理，📑两者完全🇷🇼🇱🇰重叠执行📌🇴🇲。
