资料修改2026-09尚无逐条事实核验记录;修改日期不代表已验证
本文仍包含未全面复核的历史资料;安装、许可、费用与当前权限请回到官方确认。查看已核信息范围
Groq
"LPU 推理芯片"的开创者:用自研张量流处理器(LPU)做极低延迟推理,以 Groq Cloud 提供 API 服务;一年内两轮大额融资(7.5 亿 + 6.5 亿美元),是"专用推理硬件"路线的代表。
一句话定位 + 能不能本地跑
| 判断项 | 结论 |
|---|---|
| 项目性质 | AI 推理芯片 + 云 API 服务 |
| 本地运行 | 不支持(云服务) |
| 技术特点 | LPU(确定性架构)——首个 token 延迟极低 |
| 生态位 | 实时交互场景的推理首选之一 |
项目性质:AI 推理芯片 + 云 API 服务
本地运行:不支持(云服务)
技术特点:LPU(确定性架构)——首个 token 延迟极低
生态位:实时交互场景的推理首选之一
产品与商业线
| 时间 | 事件 |
|---|---|
| 2025-09 | Compound 上线 Groq Cloud(Agent 形态);完成 7.5 亿美元融资 |
| 2026-06 | 再完成 6.5 亿美元融资 |
| 持续 | 开源模型高速托管(Llama / Qwen 等主流档) |
2025-09:Compound 上线 Groq Cloud(Agent 形态);完成 7.5 亿美元融资
2026-06:再完成 6.5 亿美元融资
持续:开源模型高速托管(Llama / Qwen 等主流档)
官方口径(公开表态与策略)
- "速度是新的智能":官方叙事集中在推理延迟(实时对话、Agent 循环的体验关键)。
- 托管开源模型:不自研模型,专注把主流开源档跑得最快。
- 融资节奏:两轮大额融资说明资本市场认可"推理专用"叙事。
- 与 NVIDIA 的关系:2026 年传出 NVIDIA 拟整合 Groq 技术做推理芯片(生态位变化)。
民间梗与争议
"快,但只能做推理":能力边界清晰(不训练),社区对其定位讨论充分。
展开背景
官方对 LPU(Language Processing Unit)的定位从一开始就很窄:只做推理、不做训练,理由是推理只依赖一组有限的线性代数运算,因此可以把架构做简单,官方称能效相较 GPU 最高约 10 倍。TechCrunch 的概括是它"不是 GPU,而是推理引擎",云端与本地机架跑的都是主流开源模型的开放版本。这条边界其实由架构决定:LPU 用片上 SRAM 换速度,没有大容量 HBM,要跑前沿模型的构建成本会非常巨大,因此主打"用更低的每美元 token 换更高的每秒 token",适合愿意为低延迟付溢价的场景。第三方口径把天花板量化得很直白:Artificial Analysis 只追踪到 6 个模型(gpt-oss 与 Llama 系列),最快的 gpt-oss-20b 输出 951 tokens/s,但这些模型里最"聪明"的 gpt-oss-120b 智能指数只有 12 分。约半年后 NVIDIA 给出量产实测:Groq 3 LPX 在 100K 上下文跑 Gemma 4 31B,中位输出 3,431 tokens/s——"快"仍是它最硬的卖点,只是现役机架里的 LPUv1 已服役七年,而新架构 LPUv3 由英伟达卖给任何想要它的云厂商,"快"不再是它独占的优势。社区对"速度溢价"的争论也一直没停:2026-06 有 HN 用户直言"作为用户我看不出 Groq 的价值主张,论每 token 价格性能真的很差"。 来源:Groq 官方:What is a Language Processing Unit?(2025-03-07) · TechCrunch:Nvidia AI chip challenger Groq raises even more than expected, hits $6.9B valuation(2025-09-17) · NVIDIA 技术博客:How NVIDIA Groq 3 LPX Unlocks Ultrafast Interactivity at Long Context(2026-08-24) · Artificial Analysis:Groq——Models, Intelligence, Performance & Price(实时页,2026-09 复核) · zach.be:How the hell is Groq raising more money?(2026-06-01) · HN 讨论:How is Groq raising more money?(2026-06-02,156 分 56 评论)
被 NVIDIA 收编:20 亿美元 IP 许可 + 创始人团队入职,"独立推理芯片路线"改姓英伟达。
展开背景
2025-12-24(圣诞前夜),Groq 官网发布公告:与 NVIDIA 签署非独家推理技术许可协议,创始人 Jonathan Ross、总裁 Sunny Madra 等加入 NVIDIA,公司保留独立身份、由 CFO Simon Edwards 任 CEO,GroqCloud 不中断。金额双方未确认,CNBC 从领投方 Disruptive 的 Alex Davis 处获得的口径是 200 亿美元现金。争议在结构:NVIDIA 全程未发新闻稿或监管文件,直到 2026-02-25 财报电话会黄仁勋才用一句"签署非独家许可、欢迎一批工程师"带过,并用当年收购 Mellanox 类比——而同场电话会对 Anthropic 的 100 亿美元投资照常披露,唯独 Groq 交易一字未提金额。Bernstein 分析师 Stacy Rasgon 直言"反垄断本应是主要风险,但把交易结构成非独家许可,就能让竞争的假象继续存在";HN 当日讨论 699 分、401 条评论。此后 Groq 转身做"英伟达云伙伴":2026-06 融资 6.5 亿美元、8 月完成 3.5 亿美元 A 轮(估值 35 亿美元),运营 13 座数据中心、服务超 600 万开发者,并拿到 NVIDIA Cloud Partner 认证。监管风险才刚开始:2026-09-10 美国司法部正式立案,调查这笔交易是否借许可结构规避并购申报;若认定该报未报,理论上可罚约 5 万美元/日而非要求拆解——"反向收购"的整条玩法第一次被摆上台面。 来源:Groq 官方新闻稿:Groq and Nvidia Enter Non-Exclusive Inference Technology Licensing Agreement(2025-12-24) · CNBC:Nvidia-Groq deal is structured to keep "fiction of competition alive," analyst says(2025-12-26) · NVIDIA 2026 财年 Q4 财报电话会记录(2026-02-25) · Tech Times:DOJ Opens Formal Probe Into Nvidia Groq Deal(2026-09-10) · Groq 官方新闻稿:Groq Closes $350 million Series A(2026-08-17) · HN 讨论:Nvidia to buy assets from Groq for $20B cash(699 分 401 评论)
说明:以上为公开报道与社区讨论,非官方定论。
怎么用(两条路)
| 场景 | 建议 |
|---|---|
| 实时交互 / Agent | Groq Cloud API(速度优势场景) |
| 批量离线 | 用 Cloud API(按量计费) |
| 本地跑 | 不支持 |
实时交互 / Agent:Groq Cloud API(速度优势场景)
批量离线:用 Cloud API(按量计费)
本地跑:不支持
避坑
- 模型范围:以它托管的档位为准。
- 成本结构:速度溢价 vs 价格,按场景核算。
- 生态变化:与 NVIDIA 的关系演进可能影响长期路线。
官方入口
- 官网:
groq.com· 控制台:console.groq.com