（来源：上观新闻）
赵晨阳：但有一点🍩值得欣喜：💐🍝这几代模型没🚨🚼有明显🐦🐼退化，之前做🖱得好的任务🍡💝，后面🍝没有变差🏴🚮，这很难，代价是🥀模型上下🏝文长度💋已非常夸张🦖⤴。这意味着🇧🇱新的哲📻🌭学共识💁🇵🇸不能简单地🕷😜回到前💂♀️现代的确定性（👓🧲scm如神圣秩👴序），也不♑🥇能停留☀在现代性的乐观理🌎性主义（如进步必🇺🇬然性），更不能满🐣足于后现代的💏💯消极多元🚕🗜主义（如一切皆⚫相对）🕙。
所以可以看到，K🐃imi 的 K🇺🇿2 只🏮🍪在数据并行（da🇨🇰😞ta para☑🌈lleli🗜🌴sm）层🎙面做切分，没有🍰在张量并行🚲🧘♀️上做切分🔕🇲🇸。比如说🔔🤐去年的🍉📱 MLA、Dee🐼🇯🇪pSee😐😓kMoE（🔩DeepS🌼eek🧓 提出的一种 M🦸♀️🇸🇿oE 🕯👨💼混合专家模型架构🛵，最早用👟🚌在 V2 中）👐📫 等，我们📘扎扎实实做了一🐇年，才🚴♀️〽能在开✖🚖源框架上跑得🔗比较好🇯🇵。
DeepSe🍅🎗ek-V4 的技💴术报告里就🇧🇳💭提到，他们做了🇬🇳🧿一个内部在线评测🎻：公司里的📼工程师🙆♂️🌊可以自🗄行选择模型完成🕳🕠任务、给模型💧🗒反馈🇦🇩🖲。你觉得“我🇲🇩🕵就是喜欢这类内容🥧”，但你没🤨👳有意识到的是：你👨🦰🌑喜欢这类内容的程📰🎛度，已经被算法通🔰◽过几个月的迭🍒代投喂，悄悄👨💻放大了🛂。晚点：现🕕♉在关注度基本被🧜♂️⌨ cod✳ing、🦜通用 A📽gent✊ 吸走了，🙊🧫因为竞争焦灼🔛，也都是大公司💁📯。
