（来源：上观新闻）
但汽车业务出📄现高增📒长，营🇱🇹👃收为13.3亿🐌美元，增长了😄38%，创♓🥎出了历史新🗯高🗜🆒。提出新的能力📑领域，📄👩🎤这才是目前大语言💄模型需要重点做🛃👨🔬、不断做的⏲事情💤🔑。这次 V4 博客📠里的一句话很🔡好：“率道而行，🇧🇶端然正己🇼🇸。（4:1、🤑👨👦👦128:1 是☔指把 4 个👶🧒 token🧲 聚合成一个🇬🇮表示和把 128🏭 个 token🧖♀️⛈ 聚合成一个表示🚊🍗，所以说 H⏏🌮CA 的🅱🕴压缩更激进） 每🌤👨🎤层用 C👞SA 还是 HC🤥🆖A 是预定义的，🙆🖥因此面对同一⛎个长上下文，不💤同层会从📳📓不同视角去看——🇭🇰稀疏层（👊CSA）精确锁🧢定关键 toke👩🦰🥭n，稠密层（HC🐢A）提供整体👩👩👦👦🇲🇰语义概览🚩😆。
最引人注🧥📎目的是谷歌云营收👮同比增长63🤑🏫%📯👅。传统技术债有🇦🇨纸面记录😲💤可追溯，AI🈸👩🦲 上下🚆文负债出问题之🈲🇲🇶前无从察觉🕧🏧。。与其他三家超大规🦇🍠模云计算公司不同🇸🇸⛴，Meta没有2️⃣🇱🇸向客户销↗🏰售AI计算🦈的云业务🧻🍀。但转行之路并不容🧔🤽♂️易⏸。以上是各家大模☹型的共性👯。能把 3% 🇸🇧🇰🇪的激活比例🌉🧝♀️稳定训🌻下来，👩🎤🚛本身是工🆕程能力的证明🇸🇨。晚点：m👌HC 对推理框😃架的影👩🏭🤢响是什么？ 赵🖤晨阳：mHC 把🥳简单添加↘🇳🇪残差这件事变成🈹😛了一个🧼🙈需要混🧼👱合 GEMM🍌🦚（通用矩阵⛱🎬乘法，深度🇲🇰💇学习中最核心🧧、最密集的🔸广告投放平台数学操🎻作）和 Si📏nkho⚔rn 归一🏑化的复杂☃操作🏟。
