（来源：上观新闻）
我们在Bed🌞🚦roc🚦👏k上已🐙🚷有大量基🔪于Anthr🗃opic、🏕Lla💬😭ma、Mis🔯▶tral等模🎩型的AI工作🍵🙇负载🇸🇧。构建智能体和AI🇧🇲应用程序时，不能🇩🇯🍱在每次与模型交🏇🐟互时都从零开始🛤，需要存储状态、🖤身份、对话🏉和操作历史，🦜需要工具使模型能👣调用不💢🔵同功能完成任务，🐹这只有通过👩📩存储状态才😲🚗能实现🍘。
第一个是推理💐范式🏳。随着上下文窗🇬🇺🥢口的拉长🍍⚓，KV Cach🍦👰e的体积呈线性膨🇬🇮🎬胀，导致内存❎墙死死📜卡住模型的🏳吞吐量👨🦰🌳。指引中包含👨了对内存供应限制👶🤝及相关🚺定价对若🥙干手机🤞OEM客户🌔🇲🇽需求影响的估计🤦♀️。
亚马逊预计第二季🌊度净销售额🥋🍸将在1940亿🧙♀️至1990亿🔏🧹美元之间，同比增🇸🇲🤓长16%至19%🏋️♀️☑，区间的上限♾️超出了分析🧞♂️🍮师预期的188🚁🎋9亿美元🐷。这意味着，亚马📘逊不再®满足于仅通过云服🍒💻务租赁🛅算力，而是准备杀🆘入英伟达的🤽♀️核心腹地，🛍👩👧👧直接销🈂🌃售AI芯片硬件🇧🇿。
