（来源：上观新闻）
一如既往，我☕们始终🤢🏨坚持长期主🗾🌓义和全民开源🔤🐤。这正是目前🔋👘大型语言模型（简🧝♂️称大模型，也就🛁🥺是Cha🍿🎪tGPT、Dee↗🌏pSeek这类🔐AI）在学习复💹👇杂推理时面临的真🛄实困境😖。晴敬科技目🧧🇲🇾前聚焦两大😂核心方向🦀：一是为企业⛩提供OP🤧C业务赋☑能，开🥌🙆展培训、🗝💔内容指导与技🇬🇪术开发；➕二是孵化‘生📘♏命之书’〰项目，面向银发⌚经济，用AI帮🥽🥫助老人撰写生🌎☺命故事，生成🙉🇼🇫回忆录、电子🙁书、电子相册🎬等数字🤹♂️产品👩🍳。从训练🚾轮次的角度看🇨🇱⬅，以τ?-Ben📰ch为🐴例，TR♈💴ACE🇬🇳在不断增加训练轮🎍🇲🇩次时通过率持续稳🍠🏉定上升，🇧🇸从0轮🖊👨次的32☄.9%🦸♀️🥬一路攀升到51🍒20轮次时的4⏰7.0%，🥴曲线几乎是一条🕳🦘平滑向上的折线🇦🇨。
工厂里的🐭🧸机械臂可以在🦚🐃固定位置重复🧧抓取一万次，💷🌽但家庭里📙的一万个动🚏♿作，每‼🥖个可能🏯🐜只做一次，🥡👨👩👧👧每次的环🥜新站做泛目录境条件都👨👧👧🍟不一样👱♀️。这就好比一个判🔓卷老师，全📹程不看解🌌题过程🛴🇷🇼，只盯着最后一🇯🇲行看，凭🚝"感觉"打🌭🗞分🕶。每一个🇹🇿🇰🇵人都算数🇮🇪，每一天也都📦💖算数⛹。
我可以🕜把同事，以🚆及他们的虾💺🎠都拉到群里🐏。1M场景下，V4⁉-Pro的🇸🇻单token 🚛FLO🦁Ps只有V3🌘🤺.2的27%，K😅🇧🇳V cache🔒只有10%🇱🇷👀。一个1💩🔲M的上下文，在V🐟3.2的成本结构👩⚖️下是不可持续的🧝♂️，KV cac🙁🇨🇲he会把显存🐇吃光🌡🛂。
