結論
Groq(グロック)は、自社開発の LPU(Language Processing Unit)という推論専用のチップで、AI モデルの応答を速く返すクラウドの推論サービス(GroqCloud)です。xAI の対話 AI「Grok」とは綴りも提供元も別物です。API は OpenAI 互換の形で呼べ、料金は入力・出力のトークン数で決まります。
この記事でわかること
- LPU の仕組みと、使えるモデル・料金・レート制限(公式の記載)
- Python SDK・curl・OpenAI SDK での呼び出し方とストリーミング
- トークン数×単価の月額の計算表と、429 のときの再試行の実測
この記事で実際に動かしたもの:公式の Python SDK(groq)と OpenAI の Python SDK を、127.0.0.1 で動かした自作のモックサーバーに向け、送られるリクエストの形・ストリーミングの受け取り・レート制限のヘッダー・429 のときの再試行を確かめました。料金とレート制限の表は、公式の数値を Python で計算しています。本物の Groq の API には接続していません。
flowchart TD
A[自分のアプリ] --> B{どの SDK で呼ぶ?}
B -->|groq SDK| C[api.groq.com]
B -->|OpenAI SDK<br>base_url を変更| C
C --> D[GroqCloud<br>LPU で推論]
D -->|一括の JSON<br>または SSE| A
よく調べられることの答えを先にまとめます。
| 知りたいこと | 答え | 詳しい節 |
|---|---|---|
| Groq とは | LPU で AI の推論を速く返すクラウドサービス | Groqとは |
| Groq と Grok の違い | Groq は推論の基盤、Grok は xAI の対話 AI。別の会社・別の製品 | GroqとGrokの違い |
| LPU とは | メモリと演算を1つのチップに載せた、推論向けのプロセッサー | LPUとは |
| Groq の料金 | トークン数の従量課金。gpt-oss-20b は入力 $0.075・出力 $0.30(100万トークンあたり) | Groqの料金 |
| 無料で使えるか | Free の区分があり、上限つきで使える。有料は Developer プラン | Groqの料金 |
| Groq API の呼び方 | pip install groq と環境変数 GROQ_API_KEY |
Groq APIの呼び出し方 |
| OpenAI SDK で使えるか | base_url を https://api.groq.com/openai/v1 に変える |
OpenAI互換API |
| 429 が出る | RPM・TPM などの上限に達した。retry-after を待って再送 | レート制限 |
確認環境:Ubuntu 24.04.5 LTS、Python 3.13.18 の venv に groq 1.7.0(公式の Python SDK)・openai 3.51.0・httpx 0.28.1 を入れ、Python の標準ライブラリで作ったモックサーバー(127.0.0.1)に向けて実行しました。curl 8.5.0 でストリーミングの生の形も見ています。Groq の API キーは作っておらず、本物の API は呼んでいません(このマシンからは console.groq.com・groq.com への接続もプロキシで拒否されたため、公式ドキュメントはブラウザ相当の取得で読みました)。モデル・料金・レート制限・データの扱いは、Groq の公式ドキュメント(console.groq.com/docs)と公式の発表(groq.com)で確かめた記載です。モックの応答文・エラー文は手元で作ったもので、本物の Groq の文面ではありません。図は mermaid 11.16.0 で描画を確かめています(確認日 2026年11月16日)。
本記事の内容は、ご自由にお使いください。
ご利用の際は、出典として本ページへのリンクを記載いただけますようお願いします。
(記載例)出典:株式会社RJC「Groqとは|LPUで速いAI推論・使い方・料金とAPIの呼び出し方」
Groqとは(読み方・何ができるか)
この節では、Groq が何の会社・何のサービスで、何ができるのかが分かります。
Groq は、AI モデルの「推論(学習済みのモデルに入力を渡して答えを出させる処理)」を速く行うことに特化した会社と、そのクラウドサービスの名前です。読み方は「グロック」と紹介されることが多いです。開発者向けの窓口は GroqCloud で、管理画面(console.groq.com)から API キーを作り、API でモデルを呼び出します。
Groq 自身はモデルを作る会社ではなく、OpenAI の gpt-oss、Meta の Llama、Alibaba Cloud の Qwen など、ほかの開発元が公開したモデルを自社の LPU の上で動かして提供しています。公式のモデル一覧には、文章の生成だけでなく、音声の文字起こし(Whisper)や音声の読み上げ(Orpheus)のモデルも並んでいます。
1文章の生成
チャット形式(Chat Completions)と Responses API で、質問への回答・要約・分類・関数呼び出しを行う。
2音声の文字起こし
whisper-large-v3 などで音声ファイルを文字にする。料金は音声1時間あたり。
3音声の読み上げ
Orpheus のモデル(プレビュー)で文字から音声を作る。料金は100万文字あたり。
Nvidia との契約(2025年12月の公式発表)
Groq の公式の発表(2025年12月24日)によると、Groq は自社の推論技術について Nvidia と非独占のライセンス契約を結び、創業者の Jonathan Ross 氏らが Nvidia に移りました。同じ発表で、Groq は独立した会社として続き、Simon Edwards 氏が CEO になること、GroqCloud は中断なく運営を続けることが示されています。API を使う側にとっては、提供元の案内を追い、モデルの提供状況を定期的に確かめるのが確実です。
GroqとGrokの違い(名前が似ている別の製品)
この節では、検索で取り違えやすい「Groq」と「Grok」の違いが分かります。
Groq(q で終わる)は推論の基盤を提供する会社とサービス、Grok(k で終わる)は xAI の対話 AI です。読みが同じで混ざりやすい名前です。
Groq(グロック)
AI の推論を速く返すクラウドサービス(GroqCloud)
独自のチップ LPU で、ほかの開発元のモデルを動かす
API の入口は api.groq.com
Grok(グロック)
x.ai のサイトで提供されている対話 AI とそのモデル
モデルそのものの名前でもある
API の入口は api.x.ai(公式ドキュメントの例)
コードで取り違えると、接続先の URL と API キーの形式がまるごと違うため、401(認証の失敗)や 404 になります。環境変数も GROQ_API_KEY と、Grok 側の変数とを分けて管理します。
LPUとは(GPUとの違い)
この節では、Groq の速さの理由とされる LPU が、どんな考え方のチップなのかが分かります。
LPU(Language Processing Unit)は、Groq が AI の推論のために一から設計したプロセッサーです。Groq の公式ブログ「What is a Language Processing Unit?」(2025年3月)は、設計の考え方として次の4つを挙げています。
- 1ソフトウェアが先(Software-first)チップより先にコンパイラーを設計し、推論の各手順をソフトウェアが制御する
- 2プログラムできる組み立てラインデータがベルトコンベアのように演算の部品の間を流れ、その流れをソフトウェアが決める
- 3決定的な計算とネットワークどの手順がいつ動くかをコンパイルの時点で決め、実行のたびにぶれない
- 4メモリをチップの上に置く演算とメモリ(SRAM)を同じチップに載せ、データの出し入れを速くする
同じブログは、GPU は別のチップの高帯域メモリ(HBM)を使うのに対し、LPU のチップ上の SRAM は毎秒80テラバイトを超える帯域を持つ、と説明しています(HBM は毎秒約8テラバイト)。これらは提供元が示している数値で、手元で測ったものではありません。
「速い」の中身を取り違えない
同じモデルなら、どこで動かしても答えの傾向は同じ。違うのは速さ・料金・上限・使える機能
GroqCloudで使えるモデル一覧(2026年11月16日時点)
この節では、公式のモデル一覧に載っているモデルと、本番向け・プレビューの違いが分かります。
公式のモデル一覧は「Production Models(本番向け)」と「Preview Models(プレビュー)」に分かれています。プレビューは、公式に「試すためのもので、本番の環境では使わない」趣旨「短い予告で提供を終えることがある」と書かれています。速さは公式の一覧に載っている毎秒トークン数です。
| モデル ID(本番向け) | 開発元 | 速さ(毎秒トークン) | 料金(100万トークンあたり) | コンテキスト長 |
|---|---|---|---|---|
| openai/gpt-oss-20b | OpenAI | 1,000 | 入力 $0.075/出力 $0.30 | 131,072 |
| openai/gpt-oss-120b | OpenAI | 500 | 入力 $0.15/出力 $0.60 | 131,072 |
| llama-3.1-8b-instant | Meta | 560 | 「ContactSales」(Enterprise の表示) | 131,072 |
| llama-3.3-70b-versatile | Meta | 280 | 「ContactSales」(Enterprise の表示) | 131,072 |
| whisper-large-v3 | OpenAI | ― | 音声1時間 $0.111 | ファイル 100MB まで |
| whisper-large-v3-turbo | OpenAI | ― | 音声1時間 $0.04 | ファイル 100MB まで |
プレビューには、qwen/qwen3.8-27b(Alibaba Cloud。入力 $0.80/出力 $4.00)、openai/gpt-oss-safeguard-20b、minimaxai/minimax-m2.7、meta-models/muse-spark-open、Llama Prompt Guard 2(22M・86M)、読み上げの Orpheus(英語・アラビア語)が載っていました。Llama の2つのモデルは、確認日の一覧では料金とレート制限の欄が「ContactSales」で、Enterprise の印が付いていました。公式のクイックスタートのコード例は llama-3.3-70b-versatile を使っているため、そのまま動かして使えないときは、モデル ID を openai/gpt-oss-20b などに替えて試します。モデルの提供状況は変わるので、使う前に公式のモデル一覧と廃止予定のページ(Deprecations)を確かめます。
Groqの料金と無料枠(Free・Developer プラン)
この節では、Groq の料金の決まり方、無料の区分と有料の Developer プランの違いが分かります。
Groq の料金は、使ったトークン数(文章のモデル)・音声の時間(文字起こし)・文字数(読み上げ)による従量課金です。公式の請求の FAQ は、Developer プランを「従量課金で、より大きな容量と機能を求める開発者・企業向け」と説明しています。アップグレードしても、その場では請求されず、月末にまとめて請求されます(使い始めの利用者は、累計の利用額が $1・$10・$100・$500・$1,000 に達した時点でも請求書が出る、とされています)。
| 項目 | Free の区分 | Developer プラン |
|---|---|---|
| 支払い方法の登録 | 要らない | クレジットカード・米国の銀行口座・SEPA デビット |
| レート制限 | Free の上限(数値は公式ページで分けて書かれていなかった) | より高い上限(公式の表は Developer の基本の上限と注記) |
| Batch・Flex の処理 | ― | 使える |
| 利用額の上限(Spend Limits) | 使えない(有料プランだけ) | 月ごとの上限と通知を設定できる |
| サポート | ― | チャットのサポート |
割引の仕組みは2つあります。Batch API は同期の API より50%安く、通常のレート制限にも影響しません。プロンプトキャッシュは、前と同じ先頭部分(システムの指示など)を持つリクエストで、キャッシュに当たった入力トークンが50%引きになり、レート制限にも数えられません。確認日の時点で対象は gpt-oss の3モデルで、使われないまま2時間たつとキャッシュは消える、と書かれています。
利用額の上限(Spend Limits)に達すると、組織のすべてのキーからの呼び出しが 400 とコード blocked_api_access で止まります。上限は毎月1日に戻り、利用額の反映は10〜15分ごとなので、急に増えたときは上限を少し超えることがある、と公式に書かれています。
料金の計算表(トークン数×単価をPythonで計算)
料金は「入力トークン数×入力単価+出力トークン数×出力単価」を100万で割った値です。公式の単価(2026年11月16日時点)を使い、架空の3つの使い方で Python で計算しました。キャッシュの列は「入力の半分がキャッシュに当たった」と仮定した値で、キャッシュの対象ではない qwen は外しています。
P = {"gpt-oss-20b": (0.075, 0.30), "gpt-oss-120b": (0.15, 0.60), "qwen3.8-27b": (0.80, 4.00)}
cases = [("FAQ bot 1万回/月", 10000, 800, 200),
("要約 3,000件/月", 3000, 6000, 600),
("RAG 10万回/月", 100000, 3000, 400)]
for name, n, i, o in cases:
for m, (pi, po) in P.items():
base = n * (i * pi + o * po) / 1e6 # 通常
batch = base * 0.5 # Batch API(50%引き)
cache = n * ((i/2) * pi + (i/2) * pi * 0.5 + o * po) / 1e6 # 入力の半分がキャッシュ
print(name, m, round(base, 2), round(batch, 2), round(cache, 2))
| 使い方(1回の入力/出力) | gpt-oss-20b | gpt-oss-120b | qwen3.8-27b |
|---|---|---|---|
| FAQ bot 1万回(800/200) | $1.20(Batch $0.60・キャッシュ $1.05) | $2.40(Batch $1.20・キャッシュ $2.10) | $14.40(Batch $7.20) |
| 要約 3,000件(6,000/600) | $1.89(Batch $0.94・キャッシュ $1.55) | $3.78(Batch $1.89・キャッシュ $3.10) | $21.60(Batch $10.80) |
| RAG 10万回(3,000/400) | $34.50(Batch $17.25・キャッシュ $28.88) | $69.00(Batch $34.50・キャッシュ $57.75) | $400.00(Batch $200.00) |
音声の文字起こしは、月に10時間なら whisper-large-v3 で $1.11、whisper-large-v3-turbo で $0.40 でした。公式の速さ(毎秒トークン数)で割ると、出力600トークンの生成は gpt-oss-20b で約0.6秒、gpt-oss-120b で約1.2秒、qwen3.8-27b で約1.33秒が目安です(待ち行列や入力の処理の時間は含みません)。
Groqのレート制限(RPM・TPM)とヘッダーの読み方
この節では、Groq のレート制限の単位と、応答のヘッダーから残りの回数を読む方法が分かります。
レート制限は、ユーザーごとではなく組織(Organization)ごとにかかり、どれか1つの上限に達すると 429 Too Many Requests が返ります。単位は次の6つです。
| 略語 | 意味 | gpt-oss-20b・120b の表の値 |
|---|---|---|
| RPM | 1分あたりのリクエスト数 | 30 |
| RPD | 1日あたりのリクエスト数 | 1K |
| TPM | 1分あたりのトークン数 | 8K |
| TPD | 1日あたりのトークン数 | 200K |
| ASH・ASD | 1時間・1日あたりの音声の秒数 | Whisper は 7.2K・28.8K |
表の値は、公式ページの注記どおり「Developer プランの基本の上限」で、例外もある概要とされています。1回のリクエストのトークン数が大きいと、RPM より先に TPM に当たります。上の値で、1回あたりのトークン数ごとの上限を計算しました。
| 1回のトークン数(入力+出力) | 1分の上限(TPM 8K・RPM 30) | 1日の上限(TPD 200K・RPD 1K) |
|---|---|---|
| 500 | 16回 | 400回 |
| 1,000 | 8回 | 200回 |
| 2,000 | 4回 | 100回 |
| 4,000 | 2回 | 50回 |
| 8,000 | 1回 | 25回 |
応答には、次のヘッダーが常に付きます(retry-after だけは 429 のときに付く)。公式の説明では、requests の欄は RPD、tokens の欄は TPM を指します。手元のモックに同じ名前のヘッダーを返させ、SDK の with_raw_response で読んだ結果です。
x-ratelimit-limit-requests = 1000
x-ratelimit-limit-tokens = 8000
x-ratelimit-remaining-requests = 996
x-ratelimit-remaining-tokens = 7950
x-ratelimit-reset-requests = 1m26.4s
x-ratelimit-reset-tokens = 0.375s
reset の値は「1m26.4s」のような形なので、待つ秒数に直す小さな関数を書いて確かめました。
import re
def to_sec(s):
tot = 0.0
for v, u in re.findall(r'([\d.]+)(ms|h|m|s)', s):
tot += float(v) * {'h': 3600, 'm': 60, 's': 1, 'ms': 0.001}[u]
return round(tot, 3)
2m59.56s -> 179.56 秒
7.66s -> 7.66 秒
1m26.4s -> 86.4 秒
0.375s -> 0.375 秒
120ms -> 0.12 秒
レート制限そのものの組み方(トークンバケットなど)は、関連記事「レート制限の実装アルゴリズム|6方式を同じ条件で動かして比較」で扱っています。
Groqの使い方(はじめ方の流れ)
この節では、Groq を使い始めるまでの流れが、公式のクイックスタートの順に分かります。
流れは「API キーを作る → 環境変数に入れる → SDK を入れる → 呼び出す」の4つです。管理画面のメニューには Playground もあります(公式ドキュメントでの案内はリンクだけでした)。
API キーを作る
console.groq.com にサインインし、API Keys のページ(console.groq.com/keys)でキーを作る。作ったキーはすぐに安全な場所へ保存し、人と共有しない。
環境変数に入れる
公式の例は export GROQ_API_KEY=<your-api-key-here>。コードにキーを直接書かず、.env ファイルや秘密情報の管理の仕組みから読ませる。
SDK を入れる
Python は pip install groq、JavaScript・TypeScript は npm install --save groq-sdk(公式のライブラリのページ)。クイックスタートの JavaScript の例は Vercel の AI SDK(@ai-sdk/groq)を使っている。
モデルを選んで呼び出す
モデル一覧から ID を選び、chat.completions.create で呼ぶ。本番では Production Models の中から選ぶ。
API キーを環境変数や .env で扱うときの注意は、関連記事「.envの使い方と注意点|APIキーを安全に管理する方法」で扱っています。
Groq APIの呼び出し方(Python SDK・curl)
この節では、公式の SDK と curl での呼び出し方と、実際に送られるリクエストの形が分かります。
公式のクイックスタートの Python の例は、Groq() のクライアントを作り、chat.completions.create にモデルとメッセージを渡す形です。キーは環境変数 GROQ_API_KEY から読まれます。
import os
from groq import Groq
client = Groq(api_key=os.environ.get("GROQ_API_KEY"))
chat_completion = client.chat.completions.create(
messages=[{"role": "user", "content": "Explain the importance of fast language models"}],
model="llama-3.3-70b-versatile",
)
print(chat_completion.choices[0].message.content)
同じ形のコードを、接続先だけ手元のモック(base_url="http://127.0.0.1:18573")に替え、ダミーのキーで動かしました。モデルは openai/gpt-oss-20b、temperature=0.2、max_completion_tokens=64 を付けています。出力と、モックが受け取ったリクエストです。
== 1. groq SDK: chat.completions.create
高速な推論は待ち時間を減らします。
usage: {'completion_tokens': 4, 'prompt_tokens': 18, 'total_tokens': 22, 'completion_time': 0.004, 'prompt_time': 0.0007, 'queue_time': 0.01, 'total_time': 0.0047}
x_groq: XGroq(id='req_mock', debug=None, seed=None, usage=None)
/openai/v1/chat/completions {"messages": [{"role": "system", "content": "日本語で短く答える"}, {"role": "user", "content": "高速な推論の利点は?"}], "model": "openai/gpt-oss-20b", "max_completion_tokens": 64, "temperature": 0.2}
1送り先は /openai/v1/chat/completions
groq SDK も、OpenAI 互換の同じパスに POST していた。
2認証は Bearer の1行
ヘッダーは Authorization: Bearer キー。User-Agent は Groq/Python 1.7.0 だった。
3usage に時間の欄がある
queue_time・prompt_time・completion_time・total_time を SDK がそのまま読めた(欄の名前は公式の API リファレンスの例と同じ)。
curl で呼ぶ形は、公式の概要のページの例では Responses API(/openai/v1/responses)を使っています。
curl -X POST https://api.groq.com/openai/v1/responses \
-H "Authorization: Bearer $GROQ_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-oss-20b",
"input": "Explain the importance of fast language models"
}'
キーを渡さずにクライアントを作ると、SDK は呼び出しの前に次のエラーを出しました(手元で実行した原文)。
GroqError The api_key client option must be set either by passing api_key to the client or by setting the GROQ_API_KEY environment variable
OpenAI互換APIとして使う(base_urlの変更と非対応の項目)
この節では、OpenAI の SDK のまま Groq を呼ぶ方法と、そのときに使えない項目が分かります。
公式は Groq API を「OpenAI のクライアントライブラリとおおむね互換」と説明しており、api_key に Groq のキー、base_url に https://api.groq.com/openai/v1 を渡せば呼べます。手元では、OpenAI の Python SDK 3.51.0 の base_url をモックの /openai/v1 に向け、同じ応答を受け取れました。
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ.get("GROQ_API_KEY"),
base_url="https://api.groq.com/openai/v1",
)
r = client.chat.completions.create(
model="openai/gpt-oss-20b",
messages=[{"role": "user", "content": "hi"}],
)
print(r.choices[0].message.content)
公式の互換のページに書かれている、使えない・扱いが違う項目です。
| 項目 | Groq での扱い(公式の記載) |
|---|---|
| logprobs・logit_bias・top_logprobs | 付けると 400 エラー |
| messages[].name | 付けると 400 エラー |
| n(候補の数) | 付けるなら 1 だけ |
| temperature に 0 | 1e-8 に置き換えられる。困るときは 0 より大きく 2 以下の値に |
| 文字起こしの形式 vtt・srt | 使えない |
| Responses API | 使える(文字・画像の入力、会話の状態、関数呼び出し) |
手元のモックには「logprobs が付いたら 400 を返す」動きを入れ、SDK 側で BadRequestError として受け取れることを確かめました(文面はモックのもの)。ほかの OpenAI 互換の基盤との比べ方は、関連記事「vLLMとは|使い方・インストール・OpenAI互換APIとOllamaとの違い」も参考になります。
ストリーミングの受け取り方(stream=True とSSEの形)
この節では、文字を少しずつ受け取るストリーミングの書き方と、流れてくるデータの形が分かります。
stream=True を付けると、応答は1つの JSON ではなく、少しずつのかけら(チャンク)の繰り返しになり、chunk.choices[0].delta.content に増えた分の文字が入ります。公式の API リファレンスでは、ストリームは data: [DONE] で終わると書かれています。手元のモックから4つのかけらを50ミリ秒おきに流し、SDK で受け取った結果です。
stream = client.chat.completions.create(
model="openai/gpt-oss-20b",
messages=[{"role": "user", "content": "高速な推論の利点は?"}],
stream=True,
)
for chunk in stream:
d = chunk.choices[0].delta.content
if d:
print(d, end="")
'高速な' 9ms
'推論は' 53ms
'待ち時間を' 104ms
'減らします。' 155ms
first token 9ms
時間はモックの待ち時間をそのまま測ったもので、Groq の速さではありません。確かめたかったのは「最初のかけらが届いた時点で表示を始められる」ことです。curl で同じモックを呼ぶと、生のデータは次の形でした(Server-Sent Events。行頭が data: 、空行で区切る)。最後の行の x_groq はモックに入れた値で、本物の最後のかけらの中身は公式の API リファレンスで確かめます。
data: {"id": "chatcmpl-mock", "object": "chat.completion.chunk", "created": 0, "model": "openai/gpt-oss-20b", "choices": [{"index": 0, "delta": {"role": "assistant", "content": "高速な"}, "finish_reason": null}]}
data: {"id": "chatcmpl-mock", "object": "chat.completion.chunk", "created": 0, "model": "openai/gpt-oss-20b", "choices": [{"index": 0, "delta": {"content": "推論は"}, "finish_reason": null}]}
(3つ目・4つ目のかけらは省略)
data: {"id": "chatcmpl-mock", "object": "chat.completion.chunk", "created": 0, "model": "openai/gpt-oss-20b", "choices": [{"index": 0, "delta": {}, "finish_reason": "stop"}], "x_groq": {"id": "req_mock", "usage": {"prompt_tokens": 18, "completion_tokens": 4, "total_tokens": 22}}}
data: [DONE]
- 最初のかけらには
roleが入り、最後のかけらはdeltaが空でfinish_reasonが入ります。delta.contentが None のかけらがあるため、if d:で飛ばさないと文字の連結で TypeError になります。 - 非同期で書くときは、公式の例どおり
AsyncGroq()とasync for chunk in stream:を使います。
Groqでよくあるエラー・つまずき(429・401・404・400)
この節では、Groq の API で出やすいエラーと、確かめる順番が分かります。
エラーの応答は {"error": {"message": ..., "type": ...}} の形で、公式のエラーのページにステータスコードごとの意味が載っています。Groq 独自の番号として、498(Flex の容量が足りない)と 499(呼び出し側が取り消した)があります。
| 表示・状況 | 主な原因 | 確かめ方・直し方 |
|---|---|---|
| GroqError The api_key client option must be set… | キーを渡していない・環境変数が空 | 同じ端末で echo $GROQ_API_KEY の有無を見る。.env の読み込み順を見直す |
| 401 Unauthorized | キーの誤り・削除したキー・Grok 用のキー | キーの先頭と末尾の空白、接続先が api.groq.com かを見る |
| 404 Not Found | モデル ID の綴り違い・提供を終えたモデル | 公式のモデル一覧の ID と完全に一致させる(openai/ などの前置きも) |
| 400 Bad Request | logprobs・messages[].name など非対応の項目 | OpenAI 向けのコードから非対応の項目を外す |
| 400 blocked_api_access | 利用額の上限(Spend Limits)に達した | 管理画面で上限を見直す。毎月1日に戻る |
| 413 Request Entity Too Large | 本文や音声ファイルが大きすぎる | 入力を分ける。Whisper はファイル 100MB まで |
| 429 Too Many Requests | RPM・TPM などの上限に達した | retry-after の秒数を待つ。TPM なら1回のトークン数を減らす |
| 498・503 | Flex の容量不足・混雑や保守 | 時間をおいて再送する |
429 のときに SDK は自動で再試行する(実測)
モックで常に 429 と retry-after: 1 を返し、groq SDK の既定の設定で呼びました。既定の max_retries は 2 で、SDK は retry-after に従って1秒ずつ待ち、合計3回送ってから RateLimitError を出しました。
default max_retries = 2 timeout = Timeout(connect=5.0, read=60, write=60, pool=60)
RateLimitError after 2.03 s
requests sent:
3
"x-stainless-retry-count": "0"
"x-stainless-retry-count": "1"
"x-stainless-retry-count": "2"
再試行の回数は Groq(max_retries=0) のように変えられます。自前で再試行するなら、SDK 側は 0 にして二重にしません。
確かめる順番は、次のとおりです。
- 1キーが読めているかGroqError・401 なら、環境変数と接続先
- 2モデル ID が一覧と一致するか404 なら綴りと提供状況
- 3送っている項目が対応しているか400 なら非対応の項目と利用額の上限
- 4上限に当たっていないか429 なら x-ratelimit-* と retry-after
- 5提供元の側の問題か5xx・498 なら時間をおいて再送
Groqでのデータの扱い(提供元の説明)
この節では、送った入力と出力が Groq でどう扱われると説明されているかが分かります。
公式の「Your Data」のページは、推論のリクエストについて「既定では顧客のデータを保持しない」と説明しています。そのうえで、信頼性の問題の調査や不正利用の調べのために入力と出力を残すことがあり、その記録は最大30日間(法令で長く求められる場合を除く)保持される、と書かれています。
- すべての顧客が、Data Controls の設定で Zero Data Retention(ZDR)を有効にでき、有効にすると信頼性と不正利用の監視のためのデータも残さない、とされています。ZDR では、データを残すことが前提の Batch やファインチューニングは使えません。
- Batch の入力・出力のファイルは最大30日、ファインチューニングのデータは削除するまで保持されます。
- 保持されるデータは、米国にある Google Cloud Platform のバケットに置かれる、と説明されています。
これらは提供元の説明で、内容は変わることがあります。機密情報や個人情報を送る前に、提供元の最新の規約・データの扱いのページと、所属先の決まりを確かめます。
Ollama・vLLM・OpenRouterとの違い(判断表)
この節では、Groq と、よく並べて調べられる仕組みとの違いが、事実の並びで分かります。
Groq はクラウドで推論を提供するサービス、Ollama と vLLM は自分のマシンやサーバーでモデルを動かすソフトウェア、OpenRouter は複数の提供元の API を1つの窓口から呼ぶサービスです。どれも OpenAI 互換の形で呼べるため、base_url を替えて同じコードで試せます。
| Groq | Ollama | vLLM | OpenRouter | |
|---|---|---|---|---|
| どこで動くか | Groq のクラウド | 自分の PC・サーバー | 自分のサーバー(主に GPU) | 複数の提供元のクラウド |
| 費用の形 | トークン数の従量課金 | 手元の機器と電気代 | 手元の機器・借りた GPU | 提供元ごとの従量課金 |
| データの行き先 | Groq(提供元の説明による) | 手元から出ない | 自分で管理するサーバー | 窓口と各提供元 |
| 使えるモデル | Groq の一覧にあるもの | 手元で動く公開モデル | 手元で動く公開モデル | 窓口の一覧にあるもの |
応答の速さを優先したい
音声の対話・リアルタイムの補完など、待ち時間が体験を左右する用途は Groq を試す候補。
一覧にあるモデルで足りるか
データを外に出せない
手元で動かす Ollama・vLLM を検討する。クラウドを使うなら提供元のデータの扱いと ZDR を確かめる。
所属先の決まりが先
多くのモデルを比べたい
1つのキーで多くの提供元を呼べる窓口型のサービスが向く。
料金と上限は提供元ごと
大量をまとめて安く
急がない処理は Groq の Batch API(50%引き・24時間〜7日)を使う。
Developer プランで
手元で動かすやり方は関連記事「Ollamaの使い方|ローカルLLMのコマンド一覧とAPIの呼び方」、窓口型のサービスは関連記事「OpenRouterとは?使い方・料金・無料モデルとAPIキーの取り方」で扱っています。
よくある質問
この節では、Groq について検索で多い疑問への短い答えが分かります。
Q. Groq は無料で使えますか?
A. Free の区分があり、支払い方法を登録しなくても上限つきで使えます。上限を上げたいとき、Batch・Flex・利用額の上限を使いたいときは Developer プランにします。Free の上限の数値は、確認日の公式ページでは分けて書かれていませんでした。
Q. Groq は日本語で使えますか?
A. 日本語を扱えるかどうかと答えの自然さは、Groq ではなく選んだモデルの性質で決まります。少量の呼び出しで、自分の用途の文章で試します。
Q. Groq の API キーはどこで作りますか?
A. 管理画面の API Keys のページ(console.groq.com/keys)で作ります。作ったキーは環境変数 GROQ_API_KEY に入れて使います。
Q. OpenAI のコードをそのまま使えますか?
A. base_url とキー、モデル ID を替えれば多くはそのまま動きます。logprobs・logit_bias・messages[].name などは 400 になるので外します。
Q. Groq の料金はどう計算しますか?
A. 入力と出力のトークン数に、それぞれの単価(100万トークンあたり)を掛けて足します。gpt-oss-20b なら、入力800・出力200トークンの呼び出しは1回 $0.00012 でした(計算の節)。
Q. LPU は買えますか?
A. この記事で確かめた公式ドキュメントは、GroqCloud の API として使う方法を案内しています。機器としての提供や大口の契約は、公式の問い合わせ窓口で確かめます。
Q. 429 が頻繁に出ます。
A. 応答の x-ratelimit-remaining-tokens を見て、TPM に当たっているなら1回の入力を減らすか、間隔をあけます。急がない処理は Batch API に回すと通常のレート制限に影響しません。
Q. 送ったデータは学習に使われますか?
A. 確認日の「Your Data」のページには、推論のリクエストは既定で保持しない(調査のための記録は最大30日)と書かれていましたが、学習への利用についての記載は見つかりませんでした。機密情報を送る前に、最新の規約と所属先の決まりを確かめます。
まとめ
この節では、Groq を使うときの要点を5つにまとめます。
- Groq は LPU で AI の推論を速く返すクラウドサービスで、xAI の Grok とは別物。答えの質は選んだモデルで決まる。
- 料金はトークン数の従量課金。gpt-oss-20b は入力 $0.075・出力 $0.30(100万トークンあたり、2026年11月16日時点)。Batch とキャッシュでそれぞれ50%引き。
- API は OpenAI 互換。
pip install groqか、OpenAI の SDK の base_url をhttps://api.groq.com/openai/v1に替える。非対応の項目は 400 になる。 - レート制限は組織ごと。x-ratelimit-* のヘッダーで残りを読み、SDK は 429 のとき retry-after に従って既定で2回再試行した。
- 本番は Production Models から選び(プレビューは試すため)、モデル ID は設定で差し替えられるようにし、データの扱いは提供元の説明として確かめてから送る。
参考・出典
この節では、この記事で確かめた公式の情報源が分かります(確認日 2026年11月16日)。
- Groq「Overview」:https://console.groq.com/docs/overview
- Groq「Quickstart」:https://console.groq.com/docs/quickstart
- Groq「Supported Models」:https://console.groq.com/docs/models
- Groq「Rate Limits」:https://console.groq.com/docs/rate-limits
- Groq「OpenAI Compatibility」:https://console.groq.com/docs/openai
- Groq「Text Generation」:https://console.groq.com/docs/text-chat
- Groq「Libraries」:https://console.groq.com/docs/libraries
- Groq「API Reference」:https://console.groq.com/docs/api-reference
- Groq「Errors」:https://console.groq.com/docs/errors
- Groq「Batch Processing」:https://console.groq.com/docs/batch
- Groq「Prompt Caching」:https://console.groq.com/docs/prompt-caching
- Groq「Spend Limits」:https://console.groq.com/docs/spend-limits
- Groq「Billing FAQs」:https://console.groq.com/docs/billing-faqs
- Groq「Your Data」:https://console.groq.com/docs/your-data
- Groq「What is a Language Processing Unit?」:https://groq.com/blog/the-groq-lpu-explained
- Groq「Groq and Nvidia Enter Non-Exclusive Inference Technology Licensing Agreement…」(2025年12月24日):https://groq.com/newsroom/groq-and-nvidia-enter-non-exclusive-inference-technology-licensing-agreement-to-accelerate-ai-inference-at-global-scale
- xAI「Grok」:https://x.ai/grok、API ドキュメント:https://docs.x.ai/docs/overview
本記事の内容は、ご自由にお使いください。
ご利用の際は、出典として本ページへのリンクを記載いただけますようお願いします。
(記載例)出典:株式会社RJC「Groqとは|LPUで速いAI推論・使い方・料金とAPIの呼び出し方」
株式会社RJC ― SI事業・SES事業・AI駆動開発。RJCは一緒に成長を楽しめる会社です。
WE ARE HIRING
RJCで一緒に開発しながら、
成長を楽しみませんか?
RJCは、Web・モバイル・AIを活用した開発プロジェクトで、テックリードやPM・PMOも活躍するシステム開発会社です。会社を知る、待遇を確かめる、話を聞いてみる。気になるところ見てみてください!
- 127日年間休日
- 12時間平均残業時間
- 毎日ガチャ遊びココロも大切にする福利厚生。アマギフなどの賞品ラインナップ!
ほかにも、チケットレストラン、書籍読み放題、2年ごとの慰労報奨(休暇 or 金一封)、11期連続の黒字決算。