瞬界AI 工具 · 模型资料 · 每日快讯
04厂商档案 · 文档

资料修改2026-09尚无逐条事实核验记录;修改日期不代表已验证

TOOLBOX / 厂商档案 · 算力 · 低延迟

本文仍包含未全面复核的历史资料;安装、许可、费用与当前权限请回到官方确认。查看已核信息范围

Groq

"LPU 推理芯片"的开创者:用自研张量流处理器(LPU)做极低延迟推理,以 Groq Cloud 提供 API 服务;一年内两轮大额融资(7.5 亿 + 6.5 亿美元),是"专用推理硬件"路线的代表。

一句话定位 + 能不能本地跑

判断项 结论
项目性质 AI 推理芯片 + 云 API 服务
本地运行 不支持(云服务)
技术特点 LPU(确定性架构)——首个 token 延迟极低
生态位 实时交互场景的推理首选之一

项目性质:AI 推理芯片 + 云 API 服务

本地运行:不支持(云服务)

技术特点:LPU(确定性架构)——首个 token 延迟极低

生态位:实时交互场景的推理首选之一

产品与商业线

时间 事件
2025-09 Compound 上线 Groq Cloud(Agent 形态);完成 7.5 亿美元融资
2026-06 再完成 6.5 亿美元融资
持续 开源模型高速托管(Llama / Qwen 等主流档)

2025-09:Compound 上线 Groq Cloud(Agent 形态);完成 7.5 亿美元融资

2026-06:再完成 6.5 亿美元融资

持续:开源模型高速托管(Llama / Qwen 等主流档)

官方口径(公开表态与策略)

  • "速度是新的智能":官方叙事集中在推理延迟(实时对话、Agent 循环的体验关键)。
  • 托管开源模型:不自研模型,专注把主流开源档跑得最快。
  • 融资节奏:两轮大额融资说明资本市场认可"推理专用"叙事。
  • 与 NVIDIA 的关系:2026 年传出 NVIDIA 拟整合 Groq 技术做推理芯片(生态位变化)。

民间梗与争议

怎么用(两条路)

场景 建议
实时交互 / Agent Groq Cloud API(速度优势场景)
批量离线 用 Cloud API(按量计费)
本地跑 不支持

实时交互 / Agent:Groq Cloud API(速度优势场景)

批量离线:用 Cloud API(按量计费)

本地跑:不支持

避坑

  • 模型范围:以它托管的档位为准。
  • 成本结构:速度溢价 vs 价格,按场景核算。
  • 生态变化:与 NVIDIA 的关系演进可能影响长期路线。

官方入口

  • 官网:groq.com · 控制台:console.groq.com

串联