Hetzner、LLM 推論 API を試験公開──OpenAI 互換で Qwen3.6-35B を提供
欧州の安価なインフラプロバイダーが推論市場へ参入し、低コストな推論基盤の構築に向けた実験を開始した。
リリース: 2026-07-24 · 読了 3 分記事の要約
1. 核心（What）
- Hetzner が OpenAI 互換の LLM 推論 API を試験公開し、実験ダッシュボード経由で利用可能にした。
- 提供モデルは Qwen/Qwen3.6-35B-A3B-FP8（35B パラメータ、3B アクティブ、262K コンテキスト）。
- 検証環境において、初回トークン到達時間 153ms、出力速度 224 トークン/秒を記録。
- 現時点では課金や SLA は設定されておらず、システムのスケーラビリティと負荷耐性を測定する段階。
2. 影響（Why）
- 低コスト推論の選択肢: Hetzner の強みである物理インフラの運用効率が推論に適用されれば、商用 API に対する低価格な代替手段として、推論コストを重視するプロダクトの基盤になり得る。
- 国内 SaaS への影響: 国内の Vertical SaaS 運営企業や中規模開発チームは、将来的に VPC 内での推論実行や、安価な従量課金 API として Hetzner を組み込むことで、推論単価の最適化を図る余地が出る。
3. 根拠・詳細（How）
- OpenAI API 互換の実装: OpenAI Python クライアントの base_url を書き換えるだけで接続可能。extra_body で 'chat_template_kwargs' を指定し、思考プロセスの制御が可能（ただし非公開仕様）。
- ハードウェア制約と将来性: 現在は RTX 4000 SFF や RTX PRO 6000 をベースとした構成と推測される。大規模モデルの提供には B200/B300 級のマルチ GPU クラスタ構築が不可欠であり、今後のハードウェア増強が鍵となる。
4. 展望・課題（Next）
- 本格展開の不透明さ: 現時点では実験段階であり、SLA や商用保証は未提供。今後のモデルラインナップ拡充や、大規模 GPU クラスタへの投資計画が公開されるまで、本番運用への投入は推奨されない。