（来源：上观新闻）
在大语言模型🕵的推理阶🎣💲段，最核心的🍯🦐物理瓶颈并⛎🇨🇱非计算能力，而是👩💻💂Key-Valu🕢e Cach🇵🇫e（键值缓存）🎻🚺对GPU显🙂🍨存（V📬RAM）🚹的吞噬👻。针对这些问👨🚀😭题，昇👷♀️腾在新一轮产🔍品和软件栈演进中🇨🇱🐠进行了系统性补齐🇨🇵👩🦰：一方面重🦊♣新优化算力配比，🇩🇰🖲提升芯🔤片在不同计🇵🇰算负载下的适配🇦🇲🔧能力；另一方👦面引入 👸SIMT 能🍎力，增🕷💾强编程灵活性；🏊🗑同时强化细粒度🇳🇴🇩🇯访存能力，使芯片🌔能够更好适应大📕📅模型训练、推🦍理以及复杂🧂0️⃣ Ag🍼ent 工作负👁️🗨️👥载中的数据访🚨问需求🧜♀️。
既然Tr🎫🇪🇭ans🤫👄former能用◻极少的🔹信息编码极其🧼复杂的逻辑，❎🇺🇦那么反过🤷♀️来，当外人想🇲🇰读懂它的心思，想🧜♀️🕡验证它🚨🦋的某个基本属性时🔕🚙，麻烦📋🇪🇬就来了🔉。因此，在需🆕要高精度数值计🇩🇯算的任🗝务（如金融建模👠、科学仿真🎥）中，🕝🧰光子计🧀算短期内无法🤟🇬🇲替代电子计算🇮🇳🏑。但这篇🚷🐘论文的作者🥍认为，在走📢向通用人工💶智能的语⛎🦟境里，这🏀🤹♂️种比较可能🚣♀️根本没问到点子上🔍✴。Street💵Accoun🐚🥅t和CNBC调🇺🇳查的分🚪🇨🇫析师平均预期👚🔝分别为39.3☀🙇%和38🗝◼.8%，而❎🌟彭博追踪的预期😩🤪是38%🚜。
