足不出户 走遍全世界
一 | 8 月 25 日消息，英伟达当地时间周一宣布，Groq 3 LPX 机架已进入全面量产阶段，这标志着该公司史上最大规模收购所获得的技术正式实现商业化。
二 | 英伟达高级总监迪翁 · 哈里斯（Dion Harris）告诉记者，Groq 机架将与 Vera 中央处理器和 Rubin 图形处理器一起部署在新型云服务商 Nebius 的平台，并将于今年晚些时候上线。英伟达正在加速生产 Groq 芯片并向客户提供该产品，这凸显出低延迟推理的重要性日益提升。 西湖的荷花文化早已和这座城市紧紧相连。
三 | 低延迟推理对于让人工智能智能体能够快速响应、避免用户遭遇长时间等待至关重要，尤其是在编程场景中。英伟达表示，云计算公司可以针对这类 Token 收取更高的费用。哈里斯表示：“对于那些提供 Token 服务的人来说，这让他们能够为那些真正要求对延迟高度敏感的服务协议的用户和客户，提供高级服务等级。”去年 12 月，英伟达以 200 亿美元（注：现汇率约合 1,347.74 亿元人民币）收购了芯片初创公司 Groq 的相关资产，这是该公司有史以来规模最大的一笔收购。Groq 的架构在芯片裸片本身集成了 500MB 高速 SRAM，以减少与内存相关的瓶颈。Groq 芯片由三星制造，而英伟达的 GPU 则由台积电生产。英伟达将 256 颗独立的 Groq 3 芯片封装到其 LPX 机架中。英伟达表示，根据 Artificial Analysis 的一项基准测试，其 Groq 3 LPX 机架能够达到每秒 3,400 个 Token 的处理速度。西湖荷花属于“花莲”品系，以观赏为主，所以莲蓬产量远远不及“子莲”，西湖水域管理处工作人员说，莲市期间，一般每天可以保证50~70份的莲蓬、荷叶。这是一个竞争激烈的领域。
四 | 摘掉过密的荷叶，为的是给下层荷叶“让路”，让阳光透进去，促使新叶生长，同时减少腐烂荷叶对水质的污染。今年早些时候，AMD 宣布，将把其机架级系统与 Cerebras 的芯片进行整合。
五 | 摘来的荷叶、莲蓬义卖给市民和游客，一举两得。西湖莲蓬、荷叶之所以会被杭州人追捧，一是因为现采的莲蓬，长在西湖里无公害，吃起来确实很嫩。Cerebras 最近上市，并将低延迟推理作为重点。OpenAI 新近宣布的“Ultrafast”模式目前承诺可达到每秒 750 个 Token，并由 Cerebras 提供支持。二来，不少人只认西湖牌荷叶，这是一种西湖情结，而且叶子够大，拿回去晒干、剪碎，用来泡茶喝，或者做粉蒸肉、叫花鸡。低延迟芯片并不会取代 GPU，后者仍然是 AI 芯片领域的主力。西湖景区水域管理处水生植物养护班班长俞阳洋介绍，荷花是强光性植物，今年雨水比较多，受多个台风影响和连续强降雨，荷叶在潮湿环境下，部分叶面上可能有斑点，样子可能没那么完美。
六 | 今年的西湖莲蓬、荷叶义卖，从8月13日开始，一直持续至8月下旬，每个工作日上午7点，柳浪闻莺微笑亭（柳浪闻莺公园内、钱王祠码头西南侧附近）准时发放当日号码牌，8点30分开始售卖，每份10元，每人限购一份，售完即止，请自备零钱（或支付宝付款）。逢双休日或者雨天停售。GPU 既可以执行训练，也可以执行推理，同时具备足够的灵活性，能够适应新技术和新模型。Groq 这类低延迟芯片主要专注于模型服务过程中的一个环节，即所谓的“解码”（decode）阶段。哈里斯表示：“这并不是要取代 GPU，而是要针对工作负载的不同部分，使用价格合适、处理能力合适的处理器。”目前，英伟达正在逐步增加 Vera Rubin 系统的出货量，该系统已于今年早些时候开始生产。
七 | 每一分义卖所得都将捐入慈善机构，去往需要它们的地方，温暖更多的人。提醒各位市民游客，义卖现场请有序排队，并配合工作人员维护现场秩序。
八 | 在 3 月份发布 Vera Rubin 和 Groq 3 LPX 时，英伟达首席执行官黄仁勋预计，到 2027 年，当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计销售额将达到 1 万亿美元（现汇率约合 6.74 万亿元人民币）。黄仁勋当时表示，他计划将数据中心中用于编程应用的空间的四分之一分配给 Groq 芯片。黄仁勋说：“我的数据中心其余部分将全部采用 Vera Rubin。”英伟达计划于当地时间周三公布财报。
Current article:http://www.jiubengtaibingpengou.pics/rox/o5v.xlsx
Published on:13:23:08
推荐阅读
