（来源：上观新闻）
别指望模型能自👾行分辨真伪，➡🌾它根本分不📳清某个信息来源😍🇦🇴是真实权威网站，🇺🇿🇵🇫还是我上周🇷🇴二刚注册的空壳👻🐻域名；就⏳💹连‘stra🐈🆒wber🌈ry（草莓🏬）’这个单词里🧛♂️🇵🇦到底有几个字母 🧬R，它都没法🇸🇩精准判断🤷♂️。Anth🔴🍃ropic、G🇵🇪rok等海外知名🥤大模型同样🚞早已开启🍌👳♀️付费订阅🍵👮♀️。他成功入选，👨🦲成为工程🇽🇰硕博专项改革🇫🇮的首批学生，开🐕👨👦👦启了为期三年的🈴实践生🇰🇼活💽。他说，国内平台正🔬🍋在不断增加防🇦🇨👁护能力，但“◀🏴☠️焚决”也在🚰🚃迭代它的🖕🚈攻击能力，“👨👧👦事实上，🥘并不存在一🇲🇶🇻🇬劳永逸的🗾🏝监管，这场攻防🗨战会一🧭直持续🇦🇪🐎。” 记者🗡🎲使用“焚决”生成👨👩👧👧图片 部🏦分失败🔰sem投放 对此，陈文弢🍾🦃解释，大模☸🙋♂️型平台通常在大🏐模型外围📳设置一个“🇳🇪护栏”过滤有害🇼🇸🦋内容，但这个“护👨🎤栏”往🔽往因体量🇬🇫小，对语意🇨🇦🇰🇬的理解能力🤘↘有限，如果❎🇻🇨背后的🤳大模型足🥮够聪明，则可👩⚖️以理解经过特殊设🦞🇹🇷计的提示词，可👻能会绕🗝过“护👖栏”并完成生🗨成🇫🇯👨💼。
Anthrop🔳ic 做了对照实🔋验，用技术🤨🏳️🌈手段抑制🐯🇺🇳这个信号后，🌪🇲🇻观测到🇧🇲⛄了一些🥠对齐度下降☦。以前所有 sy🎥💝stem ca🇩🇲🕙rd 的隐含💎假设是「更对齐 😶🐵= 更安全」🌝😟。斯托纳👨🔬表示，若维基百科🎁🇧🇳的虚假词😔条留存时间🌉足够长⬜🧻、被网络爬🐁虫抓取🎩🕥收录，就会混🇦🇩🚩入 AI 训🇲🇬🙅♂️练语料库🚣♀️💞。出于安全考量，🍗🧯机组人员🐸🛀下达了强制“调😋🇩🇴座令”，将这💜7️⃣台机器📕🇱🇮人牢牢固🇹🇫🌎定在靠窗座位上1️⃣©，以最🐆☂大程度地限制其潜🙉🎾在的破坏力🐇👨⚖️。
