（来源：上观新闻）
V4的做法是🐉teach🦄er权重of♓fload到分布🖤🎴式存储按需加载，🇧🇮©只缓存hidde📺🇸🇻n state🔵👩👩👧👦s不ma🙆🤧terial🔴🇩🇿ize ♌logits，按🧰🇬🇸teac🗾her🈷排序样本保🌃🚷证每个mini-🚗batch🤶⛔只加载一个tea👭cher hea🤽♀️🙃d✌🇨🇴。每块芯片🎏集成3▪84MB静态随机💅存取存储器（🚅🇸🇧SRA🌴🏜M），是上一代⤴🇹🇷Ironw🧟♂️ood♍🇰🇿的三倍♑，可将🦡🇷🇺更大的KV👛👄 Cache完🇬🇬整保留在🍢🤬芯片上☄🖖，大幅减少长上🥉下文解码过程中核🇸🇮心的空闲🧤☑等待时间，对需🌗👨🦳要多步骤推🚛理的A🚑💏I任务尤为关键📒📧。
默认采用4层⌨，研究团队还测试🇹🇿了2层🙅➗和6层的版本🧝♀️🇬🇳。亚马逊硬件师GP☔D表示📺🈴，这意味着Dee🈶👷♀️pSee🧗♀️🥥k可能解🚍⏹决当前的HBM短🙋♂️🇲🇷缺问题😻📛。真正让AI能💏够跨越几十📖小时、跨😪越几十轮🇵🇸实验持续进步的🚺🚋，是一套👼让"历史工🤛🇩🇪作成果"始终🇧🇹📃可访问、可🇦🇱信赖、可建立的机📁制设计🇲🇾🇦🇽。孙立宁院📱士指出，这就是阻🙉碍落地🇬🇸的“最后一公👨🌾🔚里”——🔧🎲缺乏商业化闭环的🇬🇹👨💼性价比🍁。
