（来源：上观新闻）
每一个伟大的💾◾旅程，都🌛是从踉踉跄跄的♟️第一步开始的👨🦰🍺。1M场🥒景下，V4-P🐜🦀ro的单🔕✴token F🦞蜘蛛浏览器LOPs只🗂有V3.3️⃣🛸2的27%🗽，KV cach🐾e只有10%🥡。于是，如😁😢果你要训练一个7🍋0亿参数的AI👶蜘蛛浏览器，打分员也需🏌🇯🇲要70亿参数🧖♀️，内存占用直接▪🈲翻倍👛。SPP🤴📐O的方式▪是：出题，📰🤟老师根据以往对你🔩🍳能力的了解，🔭㊙先预估你🐼答对这道😊题的概🇵🇾🏹率，然❓🧳后你只作🤝🧚♂️答一次，用🧞♀️🕢"实际结果"😫减去"预估概率🗻🌳"来判断你这次发🤨🚋挥是超水准还🛥🥕是低水准🇬🇮。
“我不知道🎡😶这到底是件好事🤚🕴还是坏事🌁🍢。Kimi 的7️⃣🍩思路是把🇩🇯安装包🧘♂️🇹🇲直接发给花花©🇧🇱，这样就可以绕过🚛网络的🏈问题了🔂。在本例中，这些🇬🇩步骤类🇻🇬似于人类芯片⛹🖼架构师团🇧🇳队所遵循🧗♀️的步骤：设计、👗🇩🇬实现、测🍭🇰🇵试等等🇲🇦🕖。一个1M的上下↕👨🦲文，在V🇰🇿🙁3.2的成本结构🏴下是不🔮🇮🇳可持续的，KV🀄🖱 ca♐🇺🇾che会把显🥣🎰存吃光🦝🧂。研究团队使用了一🇸🇾个名为 D🍽INOv2🍚 的预训练视觉模🔠🎌型（可🥓⚒以把它理🗿解为一个经过大量👨⚕️🎖图片训练🦴🇮🇴的"看图专家"）🍇，将输入的🚴♀️✴两张图片分别转换☑为包含丰富视觉信🐚🚝息的特征矩阵👨🎤。
