（来源：上观新闻）
罗托帕一度听庭审🇧🇬听得烦到在笔👨👨👧◾记本上⬜写下：我从来🎚没有这🐼么同情过奥尔特🎂🇬🇪曼🧧👾。MoE 🖨的核心价🖌值就是把这🌀🇳🇱两个量解耦，而 🔘☝V4 把这种解🤬耦推到了目前业界📮最激进🐑🌶的位置🍶🧪。而后训练的😠 infra 结🏋️♀️🤨构更复杂，📏可能单机装不下🐨，所以💑后训练🕵️♀️🈳适配 🤼♀️🐶Muon✝ 会带来更多结构🤯🖖修改🕕。
晚点：T🕳▪ileLang💿 最初是北大杨智🚁老师团队发起🆗💯的，后来也有🈂👨👦👦很多社💺区贡献💬🤤。这里需要回应一个🕌常见的反驳：“如🕹果人人都像你说🏳️🌈的那样理性，🚘🍔人类会变得冷🦉🐖漠，没⚙🧁有行动力🇧🇸。真正的人文精神，🇴🇲🙇♀️从来不是🤩😨对人类本能的无条😛件礼赞，而是在清🔫🧧醒地认😰识自身局限的🎛基础上，依然🇧🇲🇰🇿选择去思考、🎞去质疑、去构建更👨🦱完整的认知系统👘🚹。
剩下的，是我们自🤺己的事🔢🥪。它需要找↩到一条新的🦶路径——一条🏗既承认多元性和不⚗确定性，又能👩👦🗓够建立基本共识🍪和方向感的路径🇬🇾。我们的💊 INT4 🏓🚗量化感知训练，采😕👩🦱样做的是 W👳🌉4A16，也就😆是权重 4 位🌌、激活值 🎹16 位🏛，Dee☃pSe👨🦰↩ek 📇📢做到了更极限的📇🏔 W4A8🤚。
