（来源：上观新闻）
晚点：最后想问🐺地蜘蛛两位，再过🚐🔶一两年来看，V4🏴 最可能被记住☮🇹🇳的是什么👫成果或者思路？ 👤刘益枫：从算♻🕓法层面看，🥥可能是🛒 token🤳-wise 的👨🎤极致压缩🐚☔。英伟达🧹的协议覆🕵️♀️🍙盖了其🇸🇻 Nemotro💿🏦n 开源模⚖型系列🧚♂️🕦，其 CEO 🐑黄仁勋曾在🅿一次公开🇫🇲🧙♂️对话中⚒表示，在许🐀🦛多的国家安全场🇱🇨景下，开🇪🇬源模型🚚比闭源模🦊型更好，因为👼它们的属性完🎳👩🎨全可知📝，可以💾轻松针对特👨🦲定用途定制，✒他表示安🇯🇪🎦全性和可靠性在🍍开源模式下反而👨💼得到了增强🗳🏳。
对于线性层这类👩🚀二维参数，它本🐵🇹🇷质上是👨💻矩阵乘法，M🚅🍿uon 会⛅🧥把整个矩阵🇮🇨作为整体🔋🌌进行归一🇩🇲化和优🧥🇨🇾化，这能更好地利🐱用矩阵中不同📈元素之间的😇联系，让矩🛠🇱🇸阵内不同元🏡🇪🇸素的优化🚇🇮🇸步调更一致，🌍♍进一步提升训🏉练效率↙和推理能力🙎🧒。更多技术讨论，可🌹地蜘蛛联系两位播🥞客嘉进一步交👨🚒流： 赵晨阳（w🦚🇺🇳ech⚰🇱🇧at：L🕥💯oveD⚓🐫eath😲AndL🇳🇷🚥LM）🤘💤、刘益🐎枫（wech🌪at：l😰🌡auyikfu😿5️⃣ng2🚲0） 题图来源🔯🥾：Pink🗨🙇♀️Panthere💛ss-🇫🇴🙋♂️Rome💑🖇o🇬🇱。
