（来源：上观新闻）
刚刚完成博📑士后研究🇬🇷🐆的小樊🕞🇩🇪就是其中一个🦈💋。和昇腾走自研🐌🚂架构不同👩🎤，海光信息走x8🎾💉6兼容路🚧线，开发者从英伟🛰达CUDA生态迁✍移过来的成本更低🛅🔰，两者🔘⏬形成了差🗄异化互🗄🇨🇫补🥎。再往下会👤不会有更🤜激进的优化🐘🇧🇴和压缩？非常值得9️⃣期待↔🏃。Kimi 的 K❣2 也用了类似思📆3️⃣路♟️👨👨👦👦。赵晨阳：做编🌉🇸🇯译器一🐀🍤直是非常伟大🔣的事业，但也很苦🇹🇷🇸🇹、离商业🎖远、不⛔被关注♥🍨。
他在加州大学👨🚀伯克利分👦校获得博士学位，🇩🇬研究成果多🌓📖次发表于 S🇬🇳🔣cie🍯💽nce 🈶Robot📎💅ics 与 N🔷atur🚔e 等顶级期👷♦刊🎩◾。DeepSee💆♂️k-V4 的🇰🇭技术报告🖌🇹🇫里就提到，他们🇵🇭做了一个内部在🈲🛌线评测：公司里的🈲工程师可以🇬🇳〰自行选择模型⛓完成任🌭🙅♂️务、给模型🎅反馈🚊🧠。基座基本都📢是 MLA🦆，优化器🇧🇦也类似🍿，之前大家用💧 Adam📘W 或者 👛AMSGra😄🕷d（Adam 🇳🇷的一个变体，通过🇪🇸保留历史二阶矩🇷🇪估计的逐❣👵元素最大🔽值，限制自适应↔学习率🧵🇪🇬波动，从🛎而改善收敛⛺稳定性），现在🥫陆续转向 M🈷✊uon 或基🕸*️⃣于 Muon ➖微调🎲。
