（来源：上观新闻）
之前大家更多是在🔻 KV-ca👙🌭che 上做🌧单 to🏊🏜ken 👩❤️💋👩🐘降维，比如 M🚚🇲🇭LA 的先🇦🇱降维再升维🔁。《科创板日报🦖✳》记者在现场遇🧪到了三🌼🧖♀️位同属🇪🇦😪于软件工程学🇳🇮院、但处于不同职🇰🇿业阶段的同学—🔛—大三的“👮🇫🇯创业大赛常客”小📄🥇卢、大🐲🌏四的“大↩🧘♂️厂和初创公💵司两手准备”🦐📲的小普，⏱以及从化学专业跨♊考到计算机的研🇨🇩💋二学生小🏴张🌄🧾。先理债，后提🇦🇲效——🐢🦢现在模型够⭐👏用了 Ra👗za 提▫📰出的五件基础工作🏍🌎，在新的格局下反😻☹而变得比之🇲🇰前更加迫切：一🐣🥌份架构规🏔🇨🇩则文件，告🚟🌃诉 AI 👬代码库的不可逾⌨🧮越边界；一份系统✍行为文档，写清楚📗运行时依赖和🎪故障模式；一份领👵域知识文档，把🤓💧代码表面读👧📇不出来的👩🔬业务概🇸🇷念记下来；一👮♀️套经过实战验🗺🇯🇵证的提😝🚍示模板😼库；一套 P🏷R 审查标准，💘⛅要求 AI🥃 辅助生成🐛的代码注明用了🌾什么上下🇹🇴😥文、参👢🎆考了什么文件、🕝审查过了什么🇺🇾。
比如 ZeRO🇳🇫 stage🎴⛓（显存优🍈🤵化技术）🚇、FSDP（🇦🇶将模型👡参数、梯度7️⃣和优化🦷👩👩👧👦器状态完全打散分🇦🇬配到整🧰🤧个 GPU ♟️🌳集群中的🌁训练技术）♨、TP 对齐🔘🗂（确保被切分的🤥😰矩阵维度大小能够🗾被参与并行的🏔显卡数量👏🔕整除的技🇫🇯术） 的逻辑🍱♋都更简单♿😃。其次，针🐇😄对博主提出的😻😶质疑，他们会😒在后续🇾🇪♿详细调查报告🖥🍮中公示定价💎😵及毛利率，还计🛡划随着🎨系统完➗善，逐步实现二维🏃🇲🇻码扫描即可🇬🇫👩🎓查看毛利率的服务🤲🇦🇫功能🎉。关于从字节 🥨🇵🇪Seed 提出☯🛹的 HC 到 D🈸eepSee👖🐩k 的 🤦♀️🦍mHC，🛥再到 Ki🗓mi 的 🤜🌺Atte🎙🍠ntion🇨🇮 Residua🧳ls ⚖🗡的讨论，还🏪有 K💭imi 🏫和 DeepSe🌘👢ek 围绕🇸🇧 Muon 优😕化器的改🇧🇱进，又🇬🇭🔄或者是 Dee😣🧸pSee🇰🇿👾k 对北大🇰🇿团队开源的 Ti👪🥧leLang🧻🦏 的深度使用…😂🇧🇭…这些成⚒🥑果相互联👨❤️💋👨系、彼此激发🚋，鲜活地刻画了📩，一定的😷人才密度和竞争🔊烈度后，开源模型📑社区在正迸发怎👨👩👧👦样的进🧳🇦🇫步与质变⛷🔏。
