（来源：上观新闻）
研究团队将🧨🕯AI科🕦学家与非层级化🇮🇪❎的简单代理🇹🇷（在PaperB🇺🇲ench上对应▫🤴BasicAge😑⏮nt，在🎗♑MLE-B🉐ench Lit🇳🇫e上对应AI🔳⛩DE）🗃🇻🇦进行比较，发现✉即使是去掉文件即🧣龙少泛站通道机制的"👩🎓🧸残缺版"🦎🎮AI科学🤥家，在Pape👡rBe🈵nch上仍比Ba🌕🇮🇷sicAgen♍🥍t高出4.7🕞🇵🇪4分，在MLE-📤🈹Bench🏩 Lite上的👬"高于中位数🥀🈳率"和任意奖🦸♀️牌率也👁分别高出22.7🔛3和9🇫🇴.09个🥤百分点📴🥉。
我们仅提👦供了图中所示的🇧🇿功能作为🚰📳 DC 💼📜的一部分；其组🆔🇻🇦成由第🌵 2 节中描述的😅 DC Co🇻🇮👩💼re 模块决🎄🚷定🇺🇦。接下来是一个💏独特的"令牌池"🇦🇼机制👩👦。需要看具体🇮🇱情况时，🇨🇭👨⚖️你再去♎🇬🇼翻对应的文件🧵®。这是个巧妙的工❕⏫程处理💲🧗♀️。--- 八🇲🇦📢、这项🇳🇪研究告诉我们什🇨🇼么？ 归🤯💈根结底，🏵AI科学家这🇧🇿个系统👨👨👧传递的最🙊🐒核心信👁🛬息，是对"AI如🇸🇻🌡何做长周期任务🧲🇳🇺"这一问👨👨👧👦☄题的一次重新🇫🇲定性🦶🆗。
02. WAL🇬🇾🧺L-B🌋：从VLA😀🇸🇿到WU🛢🌤M，一次架⛴构级的“越狱” 😼要理解☮WAL🇼🇫L-B🇺🇦👀的意义，首先要🥌理解它取代了🤠💥什么⬆。一些细节🚸微调包括，a😢🥐ffi💎🇪🇺nity sco👨👨👧🚬re的激🕢🇳🇴活函数从😗⚠Sig🇨🇵moid换成了🎍🚎Sqrt(🇵🇳Softp🌥lus(·)🥭)，去🖨🚞掉了rou🔠tin🌘🖐g targe👻👨🌾t nodes🌇👩🔬的数量约⚽束，前几层d🇵🇫ense 🕵️♀️FFN换成😌了用Hash r😵🏝outing🥧的MoE层🎭。
