（来源：上观新闻）
这个部🏝📝分有什🌙⬆么亮点吗？⛑🎻 刘益枫：一个亮☑🇰🇳点是预训练先分裂🖌专家，再做 o☠n-pol🕟icy dist🍜😼illat📛ion（在⚒🤼♂️线策略蒸馏🕒🇲🇳，指在🥺🕊当前模型实际采样🇨🇳分布上🇧🇫*️⃣进行蒸馏，而不🐙是只依赖离💎线固定数🎆🏮据）📗。微软计划今年💘在资本支出上投入💎👩💼1900亿美💗🇧🇾元♓☁。“芯片耐受👩👩👦👦🚱辐射的极👨👩👦👦🇧🇳限仍未明确📎😍。太空虽比👩🔧地球寒冷，但📏处于真空环境🇪🇺🇰🇮，AI芯片👂🤸♂️产生的💀🇸🇬巨大热量难以🎂🐎自行散😒失🗼。
刘益枫：我觉🥴🧦得更重要🚡的是发现和提🙀出新的领🇧🇧💙域能力，🥈比如 A👨🔬gent、😑☦长程注意力能力🇮🇩。现在这🇲🇶三条路合成了一🇱🇰条：国产芯片跑🚸国产开源🛠😞旗舰模型🇦🇲🛑泛seo，性能🃏追平闭源🥫。你的杏仁核🔙立刻发出🏌🚔"有信号来了"👝的警报🌓。（注：🤩🐶预填充，🥠Prefill，🕛指在推理的🈷初始阶段，模🐍型一次性并行🇫🇰🧀处理用户🍼🇬🇮输入的整👩🍳段 promp🐱🙉t，计算并生7️⃣📽成已知文本🇮🇱的 KV 缓存，🇸🇽🇦🇩快速吃透内容👩🔬👨✈️。
