SAP是什么
(来源:上观新闻)
这个发现🥜至关重要,🤒🇵🇱它意味着:与↔❔其抛弃所有👄🇩🇬VLM◾数据重来,不如🚏在VLM那片广👨👨👧阔的数据大陆上,🎐🍜精准地挑选出♣👩⚖️那些与机器🇦🇺💘人世界更接近的"🇱🇦🇸🇩边境地带"🕵️♀️样本,用它们🔨来做针对性的过渡🌞📷训练😐。**三、热身训练🥒的实际效果:小⛎⬛模型逆⛏袭大模型** 有🎈了精选数据集,🤶🇮🇨研究团队就用它对🇭🇷VLM♑🈳进行中☂🇸🇭间训练(🐇全参数微调,批👹🚂量大小25🏞👳6,训练⛵5000步),👎🇲🇼然后再把这🔼🕵️♀️个经过热身💬🇫🇴的VLM作为🛁起点,🧚♀️按照标准流程🤾♀️训练成VLA🇹🇴🎹,在三个机器🏺🐃人操作基🔻准测试🧼🇳🇬上进行评估🧴⚱。具体实现上,🛎研究团队把🎵📢VLM模型对每个🦸♂️🇲🇦数据样本的🍁内部表示(也就🛁是模型最💳后一层的隐藏🇵🇾🇻🇪状态,可🇲🇶🇧🇹以理解为🔀⛅模型对该🥶内容的"内🇳🇫🇬🇼心印象")🇪🇹提取出🤗🐃来,冻结不动,再🇲🇽🇹🇩在上面接一个非🤸♀️🙂常简单🌗🕚的线性分类层🚾,用VL🇲🇩A训练数据作为正🛢样本、VL🇱🇮M训练数🇰🇷🇨🇺据作为负样本🐼,训练这💙☑个分类器区分两🏃♀️类数据🙇🏴SAP是什么。
两份答卷 生物学🇨🇭里有一个🚡👩💻概念叫趋🇨🇻🥑同进化:亲缘关系🤟🤸♀️很远的物种,因为🐅面对相⛰🇩🇯似的环境压力🔊,会独立演化出相🇬🇾似的解决方案☺🚥。发现五:连模🤬🇭🇺型自己都🇦🇬🎪算不准自己要花多❔少钱 既🇦🇺⤵然人算不准,🔄🍢那让 AI 自己🤠来预测呢⛸? 研㊙究者设♒📏计了一个精巧的🧝♀️🧧实验:让 🇹🇦Age🗜nt 在🐼✴真正开始修🇲🇱 Bug🐓 之前,先🇹🇲“ i🐌nspect”🐻❎一下代码库,然后✏⛩预估自己9️⃣需要消耗多少 T🚛oken🍎——但不实☔🇬🇼SAP是什么际执行修😼复🏴。这是因🇱🇮📹为人和 ☝AI “🐄看到”的难度根本🥬不是一回事: 🎹⛳人类看的是🇲🇳:逻辑复杂度🌟、算法难度、业🤸♂️🙏务理解门槛🖍🤳 Ag✋ent 看的😈👱♀️是:项目有多🎫大、要▶读多少文件、探🛏🗑索路径有多长、📀💒会不会🇫🇷🤸♂️反复修改同一🛩✌个文件 👩👦一个人类专家↙🇨🇩觉得“改一行就⬇行”的 Bug,🥵Agent🖇 可能要先读🇬🇸懂整个代😪🤨码库的🐗🧻结构才能🇰🇷定位到🇰🇬🍅那一行—⌨SAP是什么—光是“读😠”就要🇧🇫烧掉大量🎉 Token🇧🇴🦌。