（来源：上观新闻）
Agr🏥🇳🇺awaℹ🇦🇪l 现任🍘 MIT 计😤算机科学与人工智🥿能实验室😁🐭（CSA👜IL）🇻🇪助理教授，并领💿🤚导 Improb💖📧able AI 🚃实验室😟。轴心时代的先⏱哲们在农业文明的⏪转折点上为🇰🇭🤖人类文明奠🇫🇰🚿定了思想基🧘♀️🍎础，他们的智😧1️⃣慧照亮🇧🇬🧪了此后两📡千多年的♠☢人类历史⏯🐥。V4-Pro 😋是 1.6T🚅🐊 总参数下，激活🇬🇮🤹♂️参数 4🇯🇵🐅9B，🤲‼也就是约 3%，🕝🇰🇲比先前已经🏰🥕很低的 🆎🇹🇷Kim👨🌾🔺i K 2.🐾🇮🇷6 更低🛹😑。
MoE 的核心💤😁第三方广告监测价值就是把这两个🎂🥐量解耦，而🇨🇬🚽 V4🦚💂 把这种解耦推到⛳了目前🇲🇷业界最🌮激进的位置🌠🐔。然而它无法打破另👨👧👦一个瓶颈🏃。真正稀缺4️⃣的仍然是🐂👑理解问🇦🇿㊗题、拆🇳🇫解任务、创新表达🌝👩🎓的人🌞🇩🇬。
补充一点，Kim🚬i 也刚刚在 3🧀🍦 月初🌄提出了😂 Att🙌ention🐷 Re🇳🇺sid🇲🇳👨✈️ual，它有🍫🇨🇩点像 De🇨🇼🚽nseNe🇿🇦t（主要用于 C🕗NN 卷积神经网📌络的一种密集连接🧫结构，每层💙与之前所☂🐋有层直接连🐟🌃接），直🎌🇨🇳接跨层🖕相连，第一层可🇪🇷以直接🐄影响最😖后一层🥟。
