沉默的羔羊

kimi不是DeepSeek时刻_我的网站

剑雨

一 |     7月19日晚上,月之暗面发了一份公告,估计很多人都看到了。         01          标题叫《关于算力紧缺与会员暂停开放的说明》。

二 |     新西兰先驱报中文网 Kenny 报道 接新西兰交通局通知,1号高速位于Brynderwyns Hills长达10公里的路段,将于2月26日完全封闭9周(复活节除外)。说三件事:          Kimi K3上线48小时,逼近集群承载极限;暂停C端新用户订阅,现有算力全部服务已订阅用户;后续新订阅,Kimi主权益和Kimi Code权益拆开卖,「以方便更精准匹配算力」。         封闭期间,施工人员将不分昼夜的抢修道路,以清理之前飓风引发的重大山体滑坡。

三 |          同一个晚上,阿里千问官宣Qwen3.8即将发布开源,参数2.4万亿;对多数人来说,这就是条产品新闻。看完了,划走。         你要拿着算力股,里面有个反差,可以研究下。

四 |          Advertise with us          这段路是奥克兰前往Northland的主路。         被卖到停售的这个模型,三天来被用户骂得最多的,恰恰是「贵」,发布博客把输出定价写到100元每百万token,大概是上一代的4倍。         海外媒体直接拿这个说事,标题叫「中国廉价AI时代的终结」,上手用户晒的额度截图,一天烧掉三五成,到处都是,抱怨列表的另一头还挂着一个「慢」。关闭期间,交通局建议司机们选择三条道路之一绕行。         一边贵到挨骂,一边抢到关门,这两件事同时成立,说明什么?「便宜」和「贵」这场架,两边吵的不是同一件事。         拆开来看,有三个刻度。绕行意味着从奥克兰到Whangārei的行程将增加20到70公里不等。         第一个刻度,单个token的标价;K3确实便宜,输入3美元、输出15美元每百万token,大约是GPT-5.6 Sol的一半,全部的价格优势,都长在这个刻度上。         第二个刻度不同了,干完一件事,到底花多少钱?          我查了第三方评测机构Artificial Analysis的数据,截至7月21日口径,跑完同一套智力测试,K3总共输出约1.3亿个token,是可比推理模型中位数6300万的两倍还多。         东线方案(下图橙色):走Cove Road绕行Waipū,该路线仅适合轻型交通工具。         折到单个任务,K3约0.94美元,GPT-5.6 Sol开到最高档呢?1.04美元。

五 | 因为有羊肠弯道,带拖车的皮卡或卡车被禁止通行。         几乎打平,单价一半,话多一倍,账单回到原点,用户骂「额度烧得快」,骂的就是这个刻度的日常体感。         中线方案(下图绿色):走Oakleigh Road绕行Paparoa,适合绝大多数交通工具。         第三个刻度,总需求,停售公告本身就说明问题了,需求大到人家把门关了。         西线方案(下图蓝色):走12号和14号高速绕行Dargaville,该路线最远,需要额外行驶70公里,适合最重型卡车。         而且关门这家,手里本来就有闸,Kimi Code设着7天总量加每5小时滚动窗口的双层限流,帮助页写得清楚。         隔壁更直接,Qwen3.8预览版压根没走「挂个API随便买」的路子,只放在Token Plan订阅里用,个人版挂两层滑动窗口,5小时、7天,触顶即停,条款清清楚楚写着:禁止当API批量调用。

六 |          还有DeepSeek,六月底放了个消息,V4正式版要搞峰谷定价,高峰时段API价格翻倍,注意,用智能最贵的那个时段,恰好是你上班干活的时段。         全国公路运输协会首席执行官Justin Tighe-Umbers表示,司机们普遍感到失望。         几周之内,一家关门,一家装闸,一家把电网的峰谷电价搬进了API价目表;各干各的,指向同一件事:最强的智能,眼下是按份供应的。         02          当然,我这话也不能说得太满,一家公司停售,只是一个样本,不等于一个趋势。         “他们当中很多人已经跑了二三十年车,期间一直呼吁解决路的问题。         你说月之暗面自己卡买少了,也完全讲得通;而且这波需求里掺着补贴,Qwen预览期Credits消耗打一折,等于十倍用量白送,K3订阅套餐的定价能不能覆盖推理成本,也得打个问号。明明是世界上最可预测的问题,但我们没有采取任何措施。

七 | 现在我们要在最坏的时候和最不该的地段,关闭一条主干道,”他说新西兰应该有为期五十年的道路交通规划,而不是总是试着小修小补。         不过,有一件事是确定的:          补贴也好,真实需求也好,搅在一起的现状就是算力已经先不够用了。         有意思的是,市场第一反应完全没往这个方向走。         据交通局估计,即使在Brynderwyns进行修复,该路段最多也只能再服务5-7年。         Tighe-Umbers说目前最大的问题还是时间和成本。之前一天就能往返奥克兰和Northland,但如今许多司机——尤其是走西线的——将无法完成往返,不得不增加过夜费用和更多路上时间。         7月17日,A股CPO概念批量跌停;持仓群里刷屏的那句话你应该见过:「第二次DeepSeek时刻」。什么意思?          2025年1月那笔旧账还记得吧:          中国模型太省算力了,那算力和光是不是买多了?高盛的Rich Privorotsky在K3发布当天也往这个方向定性,说这可能是「算力扩张时代」终结的信号。         48小时后,那份停售公告出来了,算是对这个定性,当场来了个回话。         Tighe-Umbers说当地一家林业公司就跟他说,接下来九周不会再砍伐任何树木。         一位奶场主也说,他每天必须经过Brynderwyns。         价格战这事,随时可能反转;DeepSeek的V4预览版4月起就在走省算力路线,正式版上线要同步调价;比谁便宜,这个行业里从来没有过定局。预计绕道会额外增加15万纽币,而他无法转嫁这笔费用。

八 |          “他们通常无法转嫁,因为他们签了以特定价格交付货物的合同,而市场根本不会承担额外的运输成本。         有一样东西,回不了头,这一代模型到底长成了什么形态?需要什么样的集群来伺候它?贵与便宜是策略,形态是宿命。

九 |          所以,标价砍半的模型,用到停售的需求,翻倍的任务账单;三件事放在一起,你很难不问一句:K3的便宜,到底省在哪里了?          03          我先说结论,不全是省出来的。

十 | ”          “对他们来说,九周是一段非常漫长的时间,”Tighe-Umbers说。

十一 |          K3拿到低价的每一招,都押着一个前提,三招拆开看,前提是同一个东西。         国家党政府已经承诺会优先考虑用一条四车道的新路替代原路段,最有可能从Brynderwyns以西经过,但迄今为止没有公布时间表或预算。         相关阅读:          奥克兰交通局今夏将修复550公里道路,资金削减交通安全如何保障?          奥克兰有大约1000公里的道路需要维修,5到10年才能修完……          五年来国家公路上出现的坑洼超过21万个,最多的地区是……          未来10天,新西兰大部分地区气温将超过20摄氏度,天气晴好          厄尔尼诺来袭 新西兰今夏出现热带气旋的风险有多大?          炎热干燥!今年夏天新西兰的气温或将飙升至39度          厄尔尼诺现象来了!几周之内,新西兰气候会发生怎样的巨大变化?          厄尔尼诺来袭 2024或成史上最热一年          注:本文为编译/原创,欢迎转发分享;但严禁复制等未经授权的非法使用。         先说怎么看这套系统,把它想成一座货运园区;token是包裹,推理是分拣加派送,显卡是工位,园区里的高速互连是传送带,跨园区的网线是跨城干线。

十二 | 违反上述声明者,本网将追究其相关法律责任。

十三 |          记住这个画面,我们拆第一招:稀疏。         K3是混合专家模型,896个专家,每个token只激活其中16个;什么意思?每件包裹进园区,只叫醒该干活的那十几个工人,其余人不动,电费自然省了。

十四 | 使用授权请联系[email protected]。         但前提马上就跟来了,几百个专家摊在几十张卡上,包裹要在工位之间寄出去、算完、再寄回来;这东西有个行话,叫all-to-all通信。         这类流量对带宽和延迟极其敏感,差一点都不行。         chineseherald.co.nz All Rights Reserved 版权所有          (责编:鸮鹦鹉)          相关内容                数百条肥美鲷鱼冲上奥克兰海滩,渔业局:鱼没问题,但别吃           与前总理们相比,Christopher Luxon上任后人气没有提升,原因何在?           夜间奥克兰西区发生两起逮捕事件,两人受重伤,四人被拘留           奥克兰Ellerslie华人夫妇遇害案:两名被告面临新的指控           新西兰儿童部被严厉警告:“完全不可接受”           国家党“百日计划”即将收尾, 新政府2024年关键字:减!           绿党议员猝然离世,国会将史无前例迎来第三位华人议员?           工党人事大洗牌!他辞职去当大学校长只因羁绊太深?。         有基准可查,DeepSeek开源的通信库实测,同一高带宽域内每卡能跑到约160GB/s;跨节点呢?掉到约50GB/s。         月之暗面显然知道这个问题,应对就写在发布博客里:          训练阶段就搞了「完全均衡的专家并行」设计,部署一节明确建议「64个或更多加速器组成的supernode」,理由是推理效率受益于更大的高带宽通信域。

十五 |          这里我要说一点,64卡是跑得经济的门槛,是把token卖到这个价的前提;传送带不够长,工人再省电,包裹也堵在路上。         第二招:缓存。         发布博客里有句话容易滑过去,借助Mooncake分离式推理架构,编程场景缓存命中率超过90%,实际输入价格仅为标价的四分之一。         Mooncake是月之暗面自研的推理底座,它干的事是什么呢?          把缓存(行话叫KV cache)从单卡显存里解放出来,在集群的处理器、内存、硬盘之间流转;翻译一下:包裹不必每次回总仓重新打包,去就近的中转仓取就行。         这东西有多能搬?          我查了它的开源基准,一台插满8张400G网卡的节点,搬运40GB缓存能跑到190GB/s。         四分之一的输入价不是白来的,它建立在集群内部大规模搬数据的能力上,网络带宽是这门生意的效率变量。         第三招:压缩。         K3用自研的KDA线性注意力,把缓存体积大幅压小。

十六 | 官方说法是,借助带缓存的KDA,「即使在大模型规模和长上下文条件下,也能以很有竞争力的token价格提供服务」。         你看,压小的包裹还是要搬,月之暗面今年挂出一篇系统论文,标题就很说明态度了:          「下一代模型的KVCache可以跨数据中心」,把缓存当一等公民资源,在更大的网络里调度。方向直接写在了论文标题上。         三招放在一起,答案完整了。         稀疏省算力,前提是域够大,缓存省重复计算,前提是搬得动;压缩省显存,前提是缓存设施接得住,省钱的每一招,都建在网络上。

十七 |          很多人觉得推理是轻量活,训练才是重体力。这一代推理集群,长成了过去只有训练集群才有的形状。         而且,这也不是一家的偏好,开源旗舰的「最小服务单元」,代际之间在变大。

十八 |          上一代K2,官方部署指引最少16卡;K3推荐64卡起步。DeepSeek-V3的技术报告里,解码阶段最小部署单元是320卡。         再看过去一周的牌桌,已开源的V4-Pro站在1.6万亿参数,Qwen3.8官宣2.4万亿即将开源,MiniMax被曝下一款2.5到3万亿,这一代模型,都长这个形状。

十九 |          SemiAnalysis给K3的判词也通了:它需要「更多的GPU、HBM、DRAM和网络」。         回头再读那份停售公告,可以从技术角度换个读法了:          卡不是问题,市面上买得到;问题是把几十张卡绑成一个域;能同时跑稀疏、缓存、压缩的那种集群,临时拼几台机器凑不出来。         缓存要在网络里流转,随便拉根网线也搬不动;公告里那句「承载极限」,说白了,是长成这个形状的算力池不够用。         04          需求是真的,形态也定死了,这笔钱,落到产业链上,会记到哪一段的头上?          这份需求能兑现多少,第一道闸门,就在刚才那句判词里:HBM,高带宽内存。         SemiAnalysis给K3算过一笔硬件账;2.8万亿参数的权重超过1.5TB,单台机器的显存根本装不下,注定要摊在集群里。         如果国产承接这头,闸门更窄。         同一家机构拆过长鑫存储的口径:HBM晶圆产能去年底约5000片每月,今年底爬到约3万片,综合良率约25%。         对比一下,国际大厂良率在85%以上;此前囤了约1300万堆库存,按他们的测算,约够160万颗910C级芯片用。         我翻译下啊:地和钢材是限量的。今年明年能盖几座园区,基本已经写死了,这一段的账,最确定,也最没有弹性。

|          量看完,再说形态,采购的单位在变。         以前叫「买卡」,现在叫「买超节点」。刚闭幕的世界人工智能大会上,我去逛一圈,燧原、沐曦、摩尔线程、中兴、百度、平头哥,各家的超节点扎堆亮相。         园区里的传送带怎么修,取决于一个工程边界:铜的半径。         铜缆便宜、稳定,问题是它只够在一个机柜内部把卡连起来;阿里的磐久128单柜方案,柜内全铜,一只光模块不用。         英伟达NVL72同样柜内全铜,域一大过一个机柜,故事就换了。

|          华为CloudMatrix 384用十六个机柜拼一个域,柜内走铜,柜间走光;SemiAnalysis拆出来,整机约6912只400G光模块,芯片和光模块的配比约1比18。

|          注意,这个配比只属于多柜形态,不能套到所有超节点头上。

|          K3建议的64卡,今天恰好压在这条铜光边界上,单柜方案还兜得住;往前看一代呢?V3的320卡早就在柜外了。         最小服务单元16、64、320这条代际曲线,正在把负载往机柜外面推;域每跨出一个机柜,光的账就跳一级。

|          最后说弹性,眼下最实的一段账,在园区之间。         跨集群的高速以太网,吃的是800G和1.6T光模块;我查了LightCounting今年2月的预测:800G出货量今年再翻一倍以上,1.6T增长到数千万端口量级,1.6T芯片组销售额今年突破20亿美元。         垫在这批订单底下的,是货运总量本身,谷歌在I/O上自报,单月处理token达3200万亿,一年涨了7倍。         OpenRouter的官方博客说:          今年2月起,agent产生的流量超过了人类,单条agent请求消耗约是人类的15倍;包裹越来越多,寄件的还从人换成了不知疲倦的机器。

|          当然,我前面说的全是需求往上走,这事还有另一面。         效率也在往前走,K3自己的输出token比上一代少了21%;横向比,仍是同行的两倍;DeepSeek的V4,前面提过,走的稀疏注意力就是奔着省去的。         华为去年发了篇UB-Mesh论文,研究的东西更直接:机柜里用电缆直连,能少用光模块就少用。         还记得那个货运园区的比方吗?单件包裹在变小,包装在变省。         所以,这其实是一场赛跑;总货量跑在前面,光互连的账就成立;哪天单件瘦身反超了总量,单位算力配多少光,就会掉头。         两边都是真的,谁能跑赢,没人知道。         有几个东西可以盯着,按计划,7月27日,K3的权重和技术报告放出来,看看谁第一个用64卡以上的国产集群把它跑起来。         Qwen3.8正式开源后,看它的部署指引推不推类似的大通信域;月之暗面全速扩容,看采购往哪种形态的集群流。         回到开头那个反差:骂它贵的,骂的是token的标价;把它抢到关门的,抢的是长成这个形状的算力。

|          参考来源:          [1].月之暗面、千问、DeepSeek 官方公告与文档,Artificial Analysis、SemiAnalysis、LightCounting,DeepSeek-V3 技术报告及 Mooncake、DeepEP、UB-Mesh 等公开论文与开源仓库(数据截至 2026-07-21)          [2].个人观点,仅供参考,不构成投资建议。

Current article:http://www.jiubengtaibingpengou.pics/ptptax/yq1ufk.html

Published on:17:29:50


我的网站最近更新

我的网站热门资讯