（来源：上观新闻）
在规模🇳🇵上，TPU 🐲8t最多可将96🈹🔨00块芯🇸🇸🧮片组合为单一超级🖼📤计算节点（sup🐅🥶erpod）🍟🕯，并通💙过JAX🇵🇳与Path🕖🏅ways☁🐚框架将分➿布式训练扩😇🐗展至单一💯集群超过10🦈0万块TPU芯🇳🇬片☯。Kimi🧘♀️ 的改动是⭐🇩🇿把这整套协🙃😛同从命🧙♂️📄令行搬到了群🐣🍬聊界面🦇🌒。但模型🇧🇮越来越深、参📶💥数越来🎗越多之后，传统🇨🇳❤残差开始露怯，信🔓号传递不稳，👓🤛训练容易崩⏲🆎seo产品优化推广。然而当前的AI系🚜统在面对🚝同样任务时，却🏴🦑往往只能"看个大🥖💸概"🇧🇫。
每块芯片集🥇成384MB🔙静态随机存😂取存储器⁉（SR🐸AM），是上🥑🌂一代Ir🇱🇨onwood的❤👩💻三倍，可将更大的⏯💢KV Cache🏭完整保留在芯片上🌺🍶，大幅减少长上下🕦🇬🇳文解码过程中核心🇨🇼的空闲等🐠待时间，对需要📩⤴多步骤推理🚅🕓的AI任务💦☑尤为关🐯键👷。为支持并推动这🦕一增长🕍🛶，公司预计到🕍202🇪🇹📵6年，⛵略高于一🇵🇾半的机器学🍳习算力投🎰♏资额将被🧛♂️投入到云业务，🇱🇨以更好地服务云㊙😭端客户和合作👞伙伴🤸♂️。第一个，👨👩👧⌛上下文🧁会爆😬。
