（来源：上观新闻）
在推理↙层，Bed🇵🇰♥rock第一🌠季度处理的to🖇☁ken数🇱🇺超过以🚼往所有🌼年份总和👦，客户支出环比增🏺长170%🥋。Goo🍏🖼gle Tu🇴🇲🔭rboQua👪nt算法通过🗓引入“随机旋转🔇🍌（Rand🎴🥄om Rot🇵🇳🕰ation）🎬”的数🚾🛅学模型与Po📸💦larQuan💤t技术，在零🇬🇲🛍精度损耗的🕤📧前提下，成功🧪将KV Cach📖🐉强引蜘蛛工具e的内存需求强😶行缩减至原先的🆘1/6，并将注👩🎨意力L💙☃ogits的🚡👧计算速度💉最高提升👍了8倍🤾♀️。
近80%的财富1🇨🇮👴00强公司使用B🤵🍫edrock📘，大部分🇹🇯推理运行在Tra🦄🙇♀️inium🇦🇿🔒上👁🧑。综上所述，我们🇭🇷🏵也在积极推🌿进自身工作方ℹ式的变🎍*️⃣革◽。针对这些问题✂🌒，昇腾在新一轮产🍫🚀品和软件栈演进中🤾♂️进行了系统🚉性补齐：一方面重🦴新优化算力配比📀，提升芯片在不同⬅🎇计算负载下的适配👩🚀能力；另一方面引👩🎨🙁入 SI📉MT 能力，增🌒🇱🇧强编程🥏灵活性；同👝时强化细粒🖱🇬🇩度访存能力，🗝🇸🇭强引蜘蛛工具使芯片能够🏋️♀️更好适应🎨🇸🇱大模型训练、推🤸♂️⏲理以及⛔🦍复杂 🇫🇮👨🚒Agent🥏 工作负载中☪🧮的数据访问需求🇹🇫🔇。
