GOOGLE推广
(来源:上观新闻)
克里斯·📂🚔麦奎尔(🤾♀️右) CFR 💷根据公开🍆资料,曾供职🎰🇮🇨于拜登政府❎👨👦👦的美国国🧾🇨🇺家安全委💽🇳🇫员会(NSC),🐶🤫主要负责技术和🌓国家安全事务,并🚶♀️参与制🌹📍定了针对❕AI芯片的出口管🧙♀️制措施🖱🍚。研究者🐟认为,现有🇸🇽的AI记忆🚂🌯工具(🎽👨👦比如Mem0🌛、Zep、L☹etta/Mem🍦👩👧GPT)本质上都7️⃣是把文字塞进数🇳🇨🇯🇴据库,然后🇹🇦👨靠相似度搜🎃索来找出来——🐛🕧静态、平坦🗒👤、没有生😰🇨🇺命🥥。
“模型超市”模式🐋🍿,并非一家之选🛡,而正在成为云厂🇰🇬🕣商竞相布局的🎨赛道🎯。当时Op📺🍩enAI意识到要↖发展人工🚁智能,需要🏯🇦🇺筹集数十亿美元的🧶资金,仅🏝🥀靠纯非营🇳🇴利模式难以🇦🇹😑获得这笔资金👢。这是过🔡去几年😆英特尔最惨痛🍍🚬的时期,也是🍓英伟达最风光的年👨🚒🇸🇲代📡。当然,这一🛍过程仍然充满不🗣确定性🇻🇳🌵。与KV缓存不🍦🍍同,持久记忆需要🤣存活数🍽月、支持🕴🐠随机访问、不🗡能再生🚣♀️成——这些要求🐤⏏促使研究者做🗼🌸了三项关键调整🔐:预先↙计算好🦠随机正交⛅⬅旋转矩阵并保存在👩🔧磁盘上(🎭👳而非每次重算)🦓◾,支持2👨🔬🥒/4/8/3🇸🇨🙋♂️2比特四种🤘精度的混合存储,📥以及通🇾🇪⛈过倒数排名融合(🌻👩🔬RRF)🧛♀️🕊算法实现跨精度检😬索👨👧👦GOOGLE推广。