（来源：上观新闻）
Dee🇲🇴🥺pSeek V4📹 的进一步🦌改进是，它没有用🏕🇦🇿 Kimi 找的🤴超参数🍍🧜♂️ 0.2，而💥🌭是自己算了一个更🙊🇸🇽精确的 0🗼.18🚎🥟。但坏消🦸♀️息是，开源🍬🇹🇯视频生成模型♓和闭源差距🧿💚很大🈴。晚点：正好这几天🕜正在开 ICL🛑🔏R （⛰👩👦国际学习表征🇱🇻☎会议，Int💋ernati🔮ona👩⚕️l Conf☀erenc🗼♈e on Lea🐑📜rning Re↗👨🍳prese♿😵ntations👩👧👦⛹️♀️，AI 顶会🦘😚之一）， 🇨🇼大家在🌄会场是如何讨🎖♦论 V4 和同期😨进展的？ 刘益枫💲：有意思的是，🚯V4 放弃了从 🇲🇵V2 到 V3🏷 使用的 M🇳🇺LA（🚯注：多头潜在注意🛳力，由🐫 De🔔epSe🧡🎉ek 提🇸🇿出），而🌶🇮🇳目前 K 2.🙎♂️🥓6、GLM-5.🇱🇸🐻1 等模型依然采🌳🕹用 MLA🐎。
48 🛏🌧小时，仅为工作时🎦🍏间，不包👨👨👧👧含休息和吃饭🐨💤。法庭审理指🆗百度推广运营公司出，在拥抱技🇩🇬💟术变革、释放产业🕳🇬🇩效能的同时，👿如何在AI智能体🤡所依附平台的🍝🇩🇴合法权益、数据🚣♀️🌔安全的合理预期、🌖‼第三方开发者🇸🇸🇨🇲的技术创新空间三9️⃣者之间寻🇹🇱🧗♀️求合理平衡👝🇪🇹，如何在尊重“📌技术开🔺源”“技术中立❇”等技术伦理表达🥫🏞的同时为各方权利🇲🇼义务划定🆔♒边界，推动AI🇸🇮智能体在法治轨道📓🕛上健康有序发展🇮🇳🏴，是本案需☸📖要统筹平衡与审💆♂️慎把握😃的关键问题🏊🦉。
另一方面，基础🛶模型在训练过程✌中也会🅰🎻自动学⚙✈习 N-🇨🇱🚢gram🆎🇧🇳（连续 N 个⛩ token 组🤷♂️🌱成的局部☕🇫🇴片段，可以理解成🎠一些常见表达、固👝🍿定搭配，模型训练🐦中会自然🧣⛹学到这些短👹程上下文）⏲ 能力，Engr💜am enc🇦🇷✖oder🌦🔤 更多起到辅🐽助和信号加🚬🇳🇨强作用🇨🇩🇨🇵。晚点：💅🇧🇻MLA💹🕥 和 M⛲QA 的区🕺别是什么？⬅🧭 刘益枫：简单来🇩🇰🇵🇷说，MQA 更接↖🇦🇿近原始多头注意🌩力（Mu🇦🇱lti-He👖ad At🧢tent🕰ion）💣。
