连接蜘蛛
(来源:上观新闻)
“不管外部怎么🇱🇷变化,做🆓🏃好我们该做的🖲🇵🇰。不是因为♾️GPU性能不🇹🇬⌛行,而是因为数🎬据流动、任🧶务调度、内👩👧👧🇭🇲存管理💐、I/O协同🌮👌、网络处理这🙍些系统环🌶🥁节跟不上🇹🇫🇹🇲。但现实是🇧🇶㊗,今天大🍊量AI系🚡🇬🇩统面临👨👨👧👦的核心问💅🥀题,不是GPU不😁够强,而是系统🏦喂不饱🦚🌇GPU🛳🥙。郑纬民🚇💵院士给过一个更✂🥭直白的拆分:在🇧🇸🇹🇭大模型推理成本中📖,人力仅占🛢🐬3%,数据占2%🍋🐍,算力占到9🇰🇲🔌5%⚾🖌。
Andrej K👮♀️👩arpathy🤸♂️:大模型不是生灵☑,而是🧨需要驾驭的“🇧🇧🍡幽灵”丨S🚊🇪🇷equoia 📿🌉Cap🎖ital 🍲Open🔠🦖AI联合创始人🧭👨🦳Andr🇷🇪🈴ej K🍀arpath1️⃣y在最新访谈中指🍝🈷出,大语言👨💻🌜模型正作为“🖥🇲🇵新型计算机🇺🇾”全面重🔐塑计算架构🥬🇳🇮。每一次 API 🛫🧞♂️调用都要烧掉真😡🎩金白银的🇲🇺电力和折旧🕴。有些东西在经济🎹📧上更有价值🇧🇩⛸,因此🇨🇰产生了更多的训🚳练环境,因🏎为实验室希望模🉑🦙型在那些场🎢景下好用®。Sund🦐ar P⛩🔡ichai 在最🎇新一次🔂✔财报会上把 2🌝026 年资本支💞🦸♂️出指引㊗😏调高到 1,👩🦳750-1,85🇪🇪⛹️♀️0 亿美元,是 ⏏🇦🇬2025❎ 年(914🤔 亿)的🐅🥗近两倍🚟。