（来源：上观新闻）
如果说训练是一次🇳🇦性把钱砸进去，☕🇲🇩那么推理就🍈是每天⚓©都在把钱🛠烧出去🐧。在典型的RAG➰🇸🇳场景中，C🇦🇸PU处理甚📗🇱🇰至可能占到总延迟👩👩👧👧🎉的90%以上，☃GPU推理反🇳🇮🇹🇰而不到10%🇫🇴✊。你会感觉自己🚙仿佛脱离了强📔👢化学习1️⃣🎓回路的控制🇸🇦。康奈尔大学🥋🧖♂️的研究显示🛰😜，在五类代表性🕥🥾Agent工作🐞➿负载中，🇱🇺CPU端的↩⚜工具处理、逻辑🇰🇬🎢调度和数据预处理🤟👝，占总端到端延迟🏄📜的比例高🤤达43🤮.8%到🔢90.6%🕘。
我想这👩👩👧一切大概发生在™ 12 月🍅🙂。目前，神经网络🛢😐仍以虚拟化的形🚯式运行在现有的🆖🇹🇱计算机上，但他🇲🇿🍹认为未来😼🛳这种主客关系🐊将会反转： 💯你可以想象🇺🇿，神经网络🇵🇾将成为主进🖌程，而C👩⚕️PU则变成了🔁某种协处🌱🆎理器🤼♀️⛵。
所以，如🔊果把视角再拉🇷🇪长一点，就会发👱♀️现，CPU🤩在AI中的重🔂新重要，▶🔝其实只📜是表象🐀。One U🎖I 已经覆盖🚪tms物流管理平台三星手机、智能手👊表、平板电脑和电👃视🔐。Sonia：🤓挺好笑的：我🌦自己用模🕕型做发🕉现时——不管用C🦠👩⚖️hatGPT还❓是Cla🥁ude——我🗓经常会说“😨⛹忽略任何榜单文章🐐”，或者说“忽🐍略品牌方自己发🚂布的内😸容”🤢🌸。
