（来源：上观新闻）
在7B规模（7🕡0亿参数）的模👩❤️💋👩🍘型上，结果🕘📶同样清晰🤯。论文通过可🦎视化实验📑🇫🇷直接观⏫😢察到，🗞正确和🇸🇦8️⃣错误推理链的价值🌡曲线在中🥈间阶段🥉🌚几乎完全重🥇叠，只🙌在结尾附🇸🇬😦近才分开，证实😃了这一失效机制💈🍇。
MoE用1个s🍫hared ⛺expert🥠 + 2🌖⚫56个rout🆚❔ed e🛅🥅xper💣✅ts，🔲🔋每token🇪🇷激活6个🧱。腾讯视频副总裁🔍孙忠怀🔤🈴观察到🇰🇾1️⃣一种新的创作力☘量正在生长：“🧷‘5到20人的创👨🏭🧦作小队’，能做🤦♂️👩👩👧出过去需⏫🍏要几百人协同🎴的内容🔆。
这就像打电话传话🦸♀️——每传🕢🦛一次，信息🇯🇵就可能失真一次😞✳。这说明预🇹🇱🥝测题目难度所需🗻🇲🇿的能力，🧙♂️远比解题🇦🇫能力更容易学☦🇬🇳习🇰🇾。
