（来源：上观新闻）
图1展示了一个具🍁🇳🇿体案例：在🇺🇾"侮辱性言论检🇸🇰🛶测"这一🥁🔎任务上，AI科学🤧👩🦱家在2✋3小时内自主完🌝😷成了74轮实🔈⚽验，将模型的验证😬集AU👨🔧📐C（一🧬🔻hr是什么职业种衡量分😴📹类模型好坏的指标💪，越接近1越好🌱🚴♀️）从0.📲🌄903提升到了0📸🇰🇿hr是什么职业.982，期间经🕒历了18次"找到📙⛑更好方案🕖🚵♀️并保留"的关🧘♀️键节点，同时也🇰🇮经历了大🍨量"尝试无效🧚♀️果而丢弃🇿🇦😑"的探索过程，🔁全程无需人工🚾干预⛲🥖。
当AI作答完毕，🇨🇴得到"对（1分👄）"或"🍏🍵错（0☺分）"的结果后，🛩SPPO💝🐤用一个极🇪🇦简的公式计算优势🦶信号：实🚊🇲🇻际结果减去预估概🔒🇦🇺率🕳。过去的思⚗🇫🇯路是给📰👨👧AI灌输更多🛋🙎数据，🌹或者让它在目标场⚔景里反复试错🇭🇺👩🎨；TRACE的思👨⚕️🏑路是先诊🇨🇿🍅断后治🧼疗，找到🈵具体的薄弱点，再🤳定制化地修补👓🕑。05. 结语🥓 发布会最后，王📳潜说了这样🧂一段话： ❓⚫“尽管进🔦入家庭的机器人🎽🇹🇯现在还很👥笨，走得🍐🧛♀️很慢，经🇨🇬👙常犯错🇲🇩🕳。
比如一🙃个年迈的独居💶🐎老人，想要有人按🇨🇨时提醒他🏪🐑吃药打针，扶他起💋🙈床，推着轮🚙🤩椅带他出门🇧🇮🦚散步； 比🇳🇨👝如一个刚做完手👩🏭术的病人，需要有🚶♀️人协助他完成康🖋🔽复训练中那些枯🇲🇶🚎燥而重复的动作🧔👰； 再比如一个🔀🏴喜欢打9️⃣🇫🇯网球的🧲中学生🧙♂️，放学后想练几🧑👩💻组发球，可父母要📱上班，🧔🛁教练又排不上🍒合适的🌑时间↗。攻击者甚至🥥不需要直接攻🛴🥃击Agent本身🌮🇦🇼，只需要📘在Agent能🤐⏏接触到的🦓Ⓜ数据中埋下种🇳🇫🦴子，可能是🍝🧹一封恶👨👩👦👦意邮件、⚛一个含隐🇺🇬😨藏指令🇪🇬🚖的网页、一份被投🎆毒的文档，Age™🧡nt就可🍧能主动从中学习到🇵🇭危险行为🌰。
