目录树
(来源:上观新闻)
作者 | 周👸云龙 编辑 |📰 蔡芳芳 编📫🔆者按:🗣 过去一年👨🦳,企业🏴 AI Codi⛓🕋ng 的讨论往🥪🇲🇴往集中🎛在模型能力、🤨👨👩👧目录树部署成本与👉✔合规约束上🇰🇿😆。我们还需要深🌕🧭入理解用户👨🦲的使用方🍠🌱式,在保持🌭原版特性的同时引👤♥入现代化设🇫🇰计语言”🔘➡。一位是🐍7️⃣开源推理框🏅架 S🥈🦠GLang 核心🕞🌨开发者🏧💯赵晨阳,他是 I🇨🇾🈹nfra 背🎭景,目前已🥚加入 S🇨🇿GLa㊙ng 背后的商用👃创业公💒👨✈️司 Ra🇨🇾dixArk A🎮I🇦🇲。在大四小🏋️♀️🍪普和自己同学的实🍙🔈习经历🇲🇩🧠中,她表示,现🚾在很多公司👩💼已经将“A🍶I使用率”🇵🇲作为工作中的一个🎷硬性评估指标📰。。小李还在🕝招聘会上继续寻找🍛⏏其他机会😠◻。
比如 ZeRO🇸🇴 st👹age(显存优🤾♂️化技术)、FSD🌧P(将模型😅参数、梯度和优📬化器状态完⚱🖇全打散🛋🏮分配到整个 G🛐PU 集群👩👦👦🔋中的训练技术)💷、TP 对➖齐(确保被切分⚛🥃的矩阵维度🔰大小能够被参与🏫并行的显卡➰🇩🇯数量整除的技术)🚌 的逻💆♂️辑都更简单🇨🇲。不是说其🇵🇾👩🦰他团队做不到,而😶😢是大部分团👩✈️➿队会选择稳🚢扎稳打,De🚦📚epSeek 🖋🌂选择继续推🇨🇻到极限🇨🇽。晚点:🥽🏣最后想问两位,再🙃过一两年🏈来看,V4 最🤺可能被记住的是什💅🐑么成果或🦟者思路?🚒🥡 刘益枫👨🔧🍉:从算法层🔌🔊面看,可能是 🚗🧞♂️token-wi©se 的极致🇱🇻压缩🏺。