重点摘要
- FY2Q27 营收达 962.21 亿美元,YoY +106%,成长率连续第四季加速,Non-GAAP 毛利率 75% 与前季持平,营业费用为 82.32 亿美元,主要受到运算基础设施、薪酬与福利成本增加影响,营业利益达 639.56 亿美元、税后净利 539.54 亿美元,EPS 年增 120% 达 2.22 美元。本季回馈股东创纪录的 260 亿美元,其中股票回购 200 亿美元、股利 60 亿美元,YTD 已回馈约 60% FCF。
- Data Center 营收年增 106% 至 890 亿美元,其中 Hyperscale 营收达 490 亿美元、季增 13%,受 Blackwell 持续放量带动;ACIE 营收则年增 138% 达 400 亿美元,成长明显快于 Hyperscalers。管理层指出,NVIDIA compute 在各主要 Cloud 的使用率仍接近满载,而 NeoCloud、企业、AI 新创与主权 AI 等非 Hyperscaler 客户需求持续加速,预期未来将占 Data Center 业务约一半。
- Hyperscaler AI 基础建设投资持续扩张,目前 Cloud industry backlog 已超过 2 兆美元,前五大 Hyperscaler CapEx 预计由 2026 年接近 8,000 亿美元增加至 2027 年 1.3 兆美元。NVIDIA 同时扩大与 AWS 合作,AWS 将自本季至 FY2Q29 额外部署 200 万颗 GPU 与 Vera CPU,在 Bedrock、SageMaker 导入 NVIDIA 开放模型,Amazon 亦将采用 Physical AI stack 应用于其仓储机器人。
- Vera Rubin 已于本月开始量产出货,且已取得所有主要 Hyperscaler、AI Cloud 与 System OEM 订单,管理层预期其将成为 NVIDIA 史上放量速度最快的产品。透过 GPU、CPU、NVLink、Networking、系统与软体共同设计,Vera Rubin 相较 Grace Blackwell Ultra 每 MW 吞吐量提高 30 倍、Token Cost 降低 35 倍;每 GW 对 NVIDIA 的营收机会亦由 Hopper 约 180 亿美元、Blackwell 250 亿美元,提高至 Vera Rubin 约 400 亿美元,持续提高单位 AI Factory 的价值量。
- Networking 业务本季营收季增 +18% 再创历史新高,其中 Spectrum-X Ethernet YoY 成长 2.6 倍;同时 Grace CPU 过去 12 个月营收已超过 50 亿美元,下一代 Vera CPU 目前已全面量产,SPEC benchmark 效能约提升 1.8 倍,并开始向 OCI、SpaceX AI 与 AWS 等客户出货。预估 FY28 CPU 营收将超过倍增,并持续看到约 200 亿美元的 Server CPU 需求。
- Groq 3 LPX 首款 Rack-scale LPU 系统已全面量产,Artificial Analysis benchmark 显示每秒 Token 数接近次佳替代方案的 4 倍,预计本季稍晚开始向早期客户大量出货。管理层将 Groq 定位于高互动、极低延迟的高 ASP 推论服务,与主流 Vera Rubin 架构互补。
- 非 Hyperscaler AI 生态系持续快速扩张,2026 年上半年全球 AI VC funding 已超过 4,000 亿美元,其中约 70% 用于 Compute,高于 2025 全年的 2,650 亿美元;年化营收超过 10 亿美元的 AI Native 公司亦由去年第四季的 13 家增加至接近 20 家。企业市场方面,过去 12 个月汽车 On-prem 营收达 80 亿美元,金融、制造与医疗合计贡献 70 亿美元;Sovereign AI 业务则年增超过 3 倍,显示 AI 基础建设需求正由大型 CSP 向企业与区域市场扩散。
- 公司持续透过资本与融资合作加速 AI Infrastructure 建设,已投资 Frontier AI Labs 近 500 亿美元,并与 Apollo、BlackRock、Blackstone、Brookfield、Goldman Sachs、KKR 六家机构建立融资平台,预计募集超过 5,000 亿美元第三方资本。针对 NeoCloud,公司亦导入 Take-or-pay 最低营收承诺,协助专案取得融资,再分享超过门槛的租赁收入,商业模式由一次性 Hardware Sale 延伸至 Usage-linked Recurring Revenue,管理层认为中长期具数十亿美元营收潜力。
- 与 Frontier AI Labs 的合作进一步深化,NVIDIA 与 SoftBank Energy 合作取得 Portsmouth 园区土地、电力与机房容量,初期预计支援 4.25 GW AI Factory 并由 OpenAI 使用,每一代系统部署规模可相当于约 150 万颗 NVIDIA GPU;OpenAI 现有与规划中的 NVIDIA Compute commitment 合计约 12 GW,并承诺持续部署至 2030 年。
- FY3Q27 营收指引为 1,080 亿美元 ±2%,预计由 ACIE 带动季度成长,Hyperscaler 则预计于 Q4 及 FY28 重新加速,Vera Rubin 在 Q3 即预计占 Data Center 营收约 20%;管理层首次给出 FY28 营收年增 70% 的初步展望,且强调需求实际远高于此,供应瓶颈预计至少延续至 FY28 年底。受记忆体价格涨幅超预期影响,Q3 毛利率指引为 74% ±0.5ppt,Q4 预计降至 71%-72% 落底,随产品涨价于 Q1 生效,FY28 预计回升至 72-73%,全年营业费用则预计成长 Low-50% 区间。第二季依美国政府许可向中国出货的 H200 占 Data Center 营收不到 1%,同样未纳入第三季指引。
核心观点
首次 FY28 强劲展望且 Rubin 提前出货,毛利率成下一焦点
法说会前,市场关注焦点主要集中于三项议题:FY3Q27 营收指引能否显著高于市场预期的 1,030 亿美元、Blackwell Ultra 与 Vera Rubin 产品周期能否顺利衔接,以及记忆体成本上升背景下,毛利率能否维持约 75% 水准。 就本次财报与法说内容来看,三项核心疑虑大致均获得正面回应。
NVIDIA FY2Q27 营收年增 106% 至 962.21 亿美元,EPS 达 2.22 美元;展望 FY3Q27,公司给出营收中位数 1,080 亿美元,明显高于市场原先预期。更值得关注的是,公司首度释出 FY28 营收仍有望年增约 70% 的展望,并指出终端需求实际增幅接近翻倍,目前约 70% 的成长预期主要受制于供给能力,而非需求不足。整体而言,财测进一步强化市场对 AI Compute 需求延续性的信心,带动股价盘后一度上涨逾 4%。
产品周期方面,Vera Rubin 导入进度优于原先预期,进一步降低市场对 Blackwell Ultra 与 Rubin 世代交替期间出现需求空窗的疑虑。 公司第一季原预期 Vera Rubin 于第三季开始出货,本次则确认 Rubin 已于本月正式出货,并取得主要 Hyperscaler、AI Cloud 与 System OEM 客户订单,预计 FY3Q27 即可贡献约 20% 的 Data Center 营收。从目前订单与出货状况观察,尚未看到客户因等待 Rubin 而延后 Blackwell Ultra 采购,反而呈现 Blackwell 持续放量、Rubin 提前进入营收贡献的产品周期重叠,符合先前较为乐观的情境假设。此外,Amazon 额外承诺部署 200 万颗 NVIDIA GPU,也进一步反映即使大型 CSP 持续扩大自研 ASIC 布局,短中期对 NVIDIA 通用 GPU Compute 的需求仍维持高档,两者目前更接近互补而非完全替代关系。
毛利率表现则较接近「短期符合预期,但成本压力已进入财测」的情境。 FY2Q27 毛利率仍维持约 75%,不过去年同期受到约 45 亿美元 H20 存货相关费用影响,因此本季年增改善部分亦反映低基期效果。更重要的是,公司预期 FY3Q27 毛利率将降至 74% ±50bps,并于 FY4Q27 进一步回落至约 71–72% 的阶段性低点;随产品涨价于 FY1Q28 生效,毛利率预计可逐步回升至 72–73%。
值得注意的是,FY4Q27 同时也是 Hyperscaler 有望随 Rubin 供给改善而重新加速采购的时间点,因此短期财务表现可能呈现「Data Center/Hyperscaler 营收增速再加速、但毛利率同步触底」的组合。 在此情境下,FY27 下半年的营收动能虽有望持续上修,但成本上升可能限制短期获利率扩张;更完整的获利弹性则有望延后至 FY28,届时 Rubin 进一步放量、产品涨价生效,加上供给瓶颈逐步缓解,营收成长与毛利率修复才有机会形成更明显的正向共振。
ACIE 增速超越 Hyperscaler,占比近一半成为第二主引擎
FY2Q27 Data Center 营收约 890 亿美元,其中 Hyperscaler 贡献约 487 亿美元、年增 101%,ACIE(AI Cloud、企业及其他 AI 基础设施客户)则达约 403 亿美元、年增 138%,营收占比已提升至约 45%。管理层进一步指出,Hyperscaler 仅占整体市场机会约一半,其余需求来自 NeoCloud、企业、Sovereign AI 与 AI Native Companies;展望 FY3Q27,Data Center 营收季增动能亦将主要由 ACIE 贡献。整体而言,NVIDIA 的需求结构正逐步由过去大型 CSP 主导,转向 Hyperscaler 与 ACIE 两大客群共同驱动,并形成两者交替接棒的成长结构,有助降低单一客群资本支出周期对整体营收成长的影响。
相较于具备较强自研晶片与系统整合能力的 Hyperscaler,ACIE 客户对 NVIDIA 完整 AI Factory Stack 的依赖程度相对较高,因此其成长意义不仅在于 GPU 需求增加,更可能同步带动 CPU、Networking、NVLink 与整机系统等平台级产品渗透。随产品世代升级,NVIDIA 每 GW AI 基础设施所对应的营收机会(Revenue Opportunity per GW)亦由 Hopper 世代约 180 亿美元,提高至 Rubin 世代约 400 亿美元,显示公司正透过系统级整合与产品组合扩张,持续提升单位 AI Factory 建置容量所能捕捉的价值量。
不过,目前公司尚未揭露 Hyperscaler 与 ACIE 客户各自的毛利率与 ASP 结构,因此现阶段仍不足以判断 ACIE 占比提升是否能直接带动整体获利率改善。后续除观察 ACIE 营收占比能否进一步向 50% 靠拢外,更重要的是追踪 Rubin 每 GW 约 400 亿美元的理论营收机会,能否随 Rubin 放量与 AI Factory 建置进度如期转化为实际营收;若两者同步兑现,将意味 NVIDIA 的成长动能不仅来自 GPU 出货量增加,也逐步转向单位算力基础设施价值量提升所驱动。
现金流优势支撑,惟资产负债表承担更多供应融资风险
相较其他 M7 巨头,NVIDIA 采取 Fabless 商业模式,无须直接承担大型 CSP 资料中心建置或晶圆厂等重资本支出,使其在 AI 基础设施快速扩张周期中,仍能维持相对优异的现金转换能力。FY2Q27 FCF 年增 58% 至 213 亿美元,同期股东回馈更创下 260 亿美元新高;即使公司持续扩大 R&D、Rubin 供应链备货及策略性投资,强劲的营运现金流仍足以支撑资本回馈与 AI 生态系扩张,反映 NVIDIA 在本轮 AI CapEx 周期中仍具备明显的资本效率优势。
不过,随营运规模快速扩张,资产负债表所承担的前置投入与信用曝险亦同步上升。FY2Q27 存货增至约 320 亿美元、DSO 上升至 60 天,供应承诺(Supply Commitments)更由 1,190 亿美元大幅增加至 2,790 亿美元,显示公司为因应 Rubin 放量与中长期需求,正明显提高对上游产能及零组件的锁定程度。另一方面,市场关注的客户融资曝险目前主要集中于 NeoCloud 与部分 AI Labs,公司则透过 Take-or-Pay 等合约机制降低客户需求不及预期所衍生的履约风险。
法说会前,市场主要疑虑在于 NVIDIA 是否透过股权投资、融资或其他资金支持协助客户采购自身产品,进而形成「供应商投资客户、客户再以资金采购 NVIDIA GPU」的循环融资结构。本次管理层说明使相关融资的对象、规模与风险控管机制更为清晰,短期有助降低市场对需求品质的疑虑。然而,Take-or-Pay 能降低订单取消与需求波动风险,却无法完全消除终端客户的信用风险。 若 NeoCloud、AI Labs 等客户的 AI Monetization 速度长期落后于 CapEx 与算力扩张,NVIDIA 目前快速增加的供应承诺及融资曝险,仍可能逐步转化为较高的存货、应收帐款与资金占用压力。因此,相较单纯观察营收成长,后续更应同步追踪 DSO、存货周转、供应承诺与客户融资曝险的变化,以判断 AI 基础设施需求能否持续转化为高品质的自由现金流。
关键指标
Rubin 出货营收占比 20%、整体指引 1,080 亿美元
FY3Q27 营收中位数指引达 1,080 亿美元,明显高于法说会前市场预期,是本次最直接解除成长降速疑虑的指标;同时 Vera Rubin 已提前开始出货,FY3Q27 预计可占 Data Center 约 20%,且目前 Blackwell Ultra 并未出现明显需求空窗。后续应观察实际 Rubin 占比与 Hyperscaler Q4 加速是否如期发生,这将直接验证公司提出的 FY28 营收年增约 70% 是否具有足够支撑。
第四季毛利率 71-72% 触底,毛利率修复决定获利弹性
FY2Q27 Non-GAAP 毛利率仍维持 75%,但管理层已明确预告 Q3 降至 74% ±50bps、Q4 71-72% 触底,反映记忆体成本与 Rack-scale 系统占比提高。由于 Q4 又是 Rubin 供应提升、Hyperscaler 预计重新加速的时间点,短期可能出现营收快速成长但获利率承压;因此真正关键是产品涨价生效后,FY1Q28 毛利率能否如期回到 72-73%,确认 NVIDIA 仍具有将成本压力向客户转嫁的定价能力。
ACIE 占比是否向 50% 靠拢,以及资产负债表品质
ACIE 本季营收年增 138% 约 403 亿美元,已占 Data Center 约 45%,增速高于 Hyperscaler,且接下来第三季增预计主要由 ACIE 驱动;若占比持续向 50% 靠拢,代表 NVIDIA 成长来源正有效扩散至 NeoCloud、Sovereign AI、企业与 AI Native companies。不过这些新需求也伴随更多融资与供应支持,除了 ACIE 营收,后续也应同步追踪 320 亿美元存货、60 天 DSO 与 2,790 亿美元供应承诺,确认需求扩张最终能否持续转化为高品质现金流,而非增加营运资金压力。
FY 2Q27 财务概况
简明损益表
NVIDIA FY2Q27 营收达 962.21 亿美元,QoQ +18%、YoY +106%,营收规模再创新高,Non-GAAP 毛利率为 75.0%,与前一季持平、较去年同期提升 2.5 个百分点,新产品快速放量下仍维持强劲获利能力,营业费用为 82.32 亿美元,季增 11%、年增 54%,但增速明显低于营收,使营业利益达 639.56 亿美元,QoQ +19%、YoY +124%,税后净利进一步年增 118% 至 539.54 亿美元,EPS 达 2.22 美元,QoQ +19%、YoY +120%,整体呈现营收与获利同步高速成长。
| 单位:百万美元 | FY 2Q27 | FY 1Q27 | FY 2Q26 | QoQ | YoY |
|---|---|---|---|---|---|
| 营业收入 | 96,221 | 81,615 | 46,743 | 18% | 106% |
| 毛利率 | 75.0% | 75.0% | 72.5% | - | 2.5 ppts |
| 营业费用 | 8,232 | 7,449 | 5,361 | 11% | 54% |
| 营业利益 | 63,956 | 53,783 | 28,541 | 19% | 124% |
| 税后净利 | 53,954 | 45,548 | 24,763 | 18% | 118% |
| EPS (元) | 2.22 | 1.87 | 1.01 | 19% | 120% |
营运部门绩效
FY2Q27 Data Center 营收达 890 亿美元,季增 18%、年增 117%,占公司总营收约 92%,持续成为最主要的成长引擎,背后受全球 Hyperscaler、AI Labs、AI-native、企业与主权 AI 基础建设需求扩张带动。Vera Rubin 已进入全面量产,开始于 CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 与 Nebius 等客户部署,支撑后续成长。Edge Computing 营收则年增 27% 为 72 亿美元,维持稳健成长,但目前公司营收与成长动能仍高度集中于 Data Center。
| 单位:十亿美元 | FY 2Q27 | FY 1Q27 | FY 2Q26 | QoQ | YoY |
|---|---|---|---|---|---|
| Data Center | 89.0 | 75.2 | 41.0 | 18% | 117% |
| Edge Computing | 7.2 | 6.4 | 5.7 | 13% | 27% |
| 总计 | 96.2 | 81.6 | 46.7 | 18% | 106% |
FY 2Q27 财测指引
展望 FY3Q27,公司预期营收为 1,080 亿美元、上下浮动 2%,以中值计算较 FY2Q27 约季增 12%,且指引未纳入任何中国资料中心运算收入,显示其他地区 AI 基础建设需求仍足以支撑强劲成长,Non-GAAP 毛利率预估降至 74.0% ±0.5 个百分点,主要受到记忆体等零组件价格上升影响,营业费用则预计增至约 90 亿美元。管理层预期第三季成长主要由资料中心 ACIE 客户带动,Vera Rubin 预计于 FY3Q27 贡献约 20% 的资料中心营收,代表新一代平台已快速进入放量阶段。
| 单位:十亿美元 | FY 3Q27 (G) | FY 2Q27 (A) |
|---|---|---|
| 营业收入 | 108.0 ±2% | 96.2 |
| 毛利率 (Non-GAAP) | 74.0% ± 0.5 ppts | 75.0% |
| 营业费用 (Non-GAAP) | 9.0 | 8.23 |
营运部门财务绩效
FY2Q27 Data Center 营收达 890 亿美元,季增 18%、年增 117%,占公司总营收约 92%,持续成为最主要的成长引擎,背后受全球 Hyperscaler、AI Labs、AI-native、企业与主权 AI 基础建设需求扩张带动。Vera Rubin 已进入全面量产,开始于 CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 与 Nebius 等客户部署,支撑后续成长。Edge Computing 营收则年增 27% 为 72 亿美元,维持稳健成长,但目前公司营收与成长动能仍高度集中于 Data Center。
Q&A
Q1:为何 NVIDIA 有信心提前给出 FY28 约 70% 的营收成长展望?实际需求是否高于 70%?目前最大的限制是什么?
公司过去几乎不会提前一年提供成长展望,但目前对上下游的能见度已显著提高,因此有信心提出 FY28 约 70% 的成长预期。关键在于实际需求远高于 70%,指引是依现有供应能力、公司有信心可交付的成长幅度,今年需求已呈现约 100% 年增幅度,不受供给限制下的需求水准会高出许多。
此外,需求来源 Hyperscalers 仅约占整体机会的一半,另外一半来自企业、Neo Clouds、Sovereign AI 与 AI 新创等客户,这部分业务目前也约占公司一半,且正以约 100% YoY 的速度成长。相较 Hyperscalers 能自行整合部分系统,这些客户通常需 NVIDIA 提供完整 AI Factory Platform,因此 NVIDIA 在此市场具有更高的单位价值贡献。目前并没有单一供应瓶颈,黄仁勋表示整条供应链都受到挑战,含土地、电力、Data Center Shell、记忆体、晶圆与其他零组件,部分甚至需要提前 2-3 年规划,未来将透过新增产能、改善良率及与供应商合作进一步提高可交付量。
Q2:AI Agent 与 AGI 是否会让算力需求再次出现成长拐点?AI 需求是否可能持续超越目前预期?
黄仁勋认为需求仍会进一步出现拐点,AI 正从「人类主动 Prompt」转向「Agent 持续自主运作」。他表示近期可能已跨过重要门槛,多数 AI 工作开始转向 Agentic AI;以 NVIDIA 自身约 4 万名员工为例,未来可能搭配 40 万甚至 400 万个 AI Agents,且这些 Agent 并非等待使用者指令,而是 24/7 在背景持续工作并彼此协作。管理层认为与其讨论何时达到 AGI,更重要的是 AI 已经开始产生实际经济价值,将现阶段归纳为三点:AI 已能执行有生产力且实用的工作、AI 已能产生 Profitable Tokens,以及更多 Compute 能直接产生更多 Profitable Tokens 与服务商利润。这也是为何客户持续增加 AI 基础设施资本支出,算力本身已从成本项目逐渐转变为能直接创造营收的资产。
Q3:面对推论市场与 ASIC/XPU 竞争,NVIDIA 如何维持市占率?OpenAI、Anthropic 等客户自研晶片是否构成威胁?
NVIDIA 与客制化 ASIC/XPU 的定位并不相同,多数 XPU 是针对「特定 Cloud、特定 Service、特定 Inference Workload」最佳化,而 NVIDIA 提供的是涵盖资料处理、Pre-training、Post-training 到 Agentic Inference 的完整 AI Factory Platform,且可以部署于不同 Cloud、On-premise 与全球资料中心,平台通用性与部署范围是核心差异。即使 OpenAI、Anthropic 等 Frontier Labs 自行设计晶片,黄仁勋表示对 NVIDIA 技术有 100% confidence,预期这些公司长期仍会大量用 NVIDIA Compute,原因是 AI 服务未来需要全球化部署,而全球资料中心并不会全部由 Frontier Labs 自行兴建;NVIDIA 跨云、跨资料中心与完整 AI Lifecycle 的部署能力,仍可与客户自研晶片并存,因此管理层将这些公司同时视为长期客户、合作伙伴及投资标的,而非单纯竞争者。
Q4:NVIDIA 为何持续投资 OpenAI、Anthropic 等 AI Labs?这些生态系投资未来是否还会扩大?
黄仁勋将投资领先 AI Labs 视为 Once-in-a-generation opportunity,表示自己最大的遗憾反而是没有更早、投入更多资金,他认为 OpenAI、Anthropic 等公司未来可能成为历史上最具影响力的科技企业之一,部分公司甚至可能很快进入公开市场,因此 NVIDIA 也希望透过资本与技术合作深化整个 AI 生态系。公司目前揭露的 Commitments 中很大一部分属于 Supply Commitments,并非全部都是股权投资;而且最大部分集中于未来前三年,主要用来确保 Vera Rubin 与下一代产品所需的供应及产能,这些提前锁定的供应承诺也是管理层敢于提供较长期营收展望的重要基础。
Q5:开源模型快速崛起,会削弱 Frontier Labs 与 NVIDIA 的成长吗?Open Model 对 NVIDIA 是利多还是利空?
Open Models 与 Closed Models 并非零和竞争,两者使用量目前都在快速成长,且都会增加 NVIDIA 的算力需求,几乎所有主流 Open Models 都运行于 NVIDIA 平台,原因是 CUDA 生态系及 NVIDIA Hardware Footprint 已遍布 Cloud、PC、DGX、Workstation、Robot 与 On-prem Data Center,模型越多元,反而越能凸显平台通用性的价值。Open Models 对企业、国家与 AI 新创非常重要,这些客户需建立自己 Domain-specific/Proprietary AI,而开源模型逐渐达到 Frontier-level 能力后,大幅降低建立专属 AI 的门槛。以 Cybersecurity 为例,开源 Frontier Models 已使企业能建立大规模、分散式且持续运行的自主资安系统,Open 与 Closed Models 都会成功,且会同步推动公司销售成长。
Q6:为何 NVIDIA 每 GW 的营收机会持续提高?Vera Rubin 之后还能继续提升吗?
NVIDIA 每 GW Data Center 对应的营收机会正在快速提升,由 Hopper 约 180 亿美元/GW → Grace Blackwell 约 250 亿美元/GW → Vera Rubin 约 400 亿美元/GW。原因不只是 GPU ASP 上升,而是 NVIDIA 在每一代平台中提供的内容持续增加,包括 CPU、GPU、NVLink、InfiniBand/Ethernet 与其他 Networking,及完整 Rack-scale System,使公司在每座 AI Factory 中取得的价值量持续增加。
黄仁勋表示,400 亿美元/GW 并不是终点,Vera Rubin 之后还会持续提高,长期目标是在相同土地与电力限制下塞入更多 Compute,不是单纯增加耗电量。管理层提到,目前大型 AI Data Center 的投入可能达 500 亿美元,但部分客户的投资资本回收期已低于一年;只要新一代架构持续提升 Productivity、Durability 与 Fungibility,客户就有经济诱因持续快速升级。
Q7:Groq 3 在 NVIDIA 推论策略中扮演什么角色?是否会取代 Vera Rubin?
管理层将 Groq 3 定位为针对极高互动性、极低延迟 Token Generation 的特殊加速方案,而不是取代主流 GPU 平台,Groq 3 已达到创纪录的 Token Interactivity Rate,团队目前正将 NVLink 架构作为核心引擎整合其中,目标是服务对回应速度极度敏感的高价值 AI Workloads。这类服务的 Throughput 相对较低、Cost per Token 较高,更适合高 ASP AI Services,客户可在既有 NVIDIA 基础设施上额外加挂专用 Accelerator。此外,全球绝大多数资料中心仍会以 Vera Rubin + NVLink 72 为核心架构,因此 Groq 3 更像补足高阶低延迟推论需求,而非改变 NVIDIA 主平台的产品方向。
