個人開発者、自作サーバー向け AI 開発プラットフォーム構築レシピ「My Homelab AI Dev Platform」を公開
Proxmox と Kubernetes を基盤に、NVIDIA GPU をコンテナ間で共有しつつ、Dify や Open WebUI などの OSS ツール群を自宅環境で一括管理する構成案。
リリース: 2026-06-16 · 読了 4 分記事の要約
1. 核心（What）
- Proxmox 上の Kubernetes (k3s) をベースに、NVIDIA GPU パススルーと共有 (vGPU/Device Plugin) を実現。
- LLM 実行基盤として Ollama および vLLM を採用し、フロントエンドに Open WebUI と Dify を統合。
- 監視・ロギングには Prometheus, Grafana, Loki を使用し、自宅サーバーの計算リソースを可視化。
2. 影響（Why）
- クラウド GPU の従量課金を気にせず、プライベートなデータを用いた RAG やエージェント開発を 24 時間 365 日試行錯誤できる環境が手に入る。
- 開発者への影響: 自宅に余剰 GPU (RTX 3090/4090 等) を持つ開発者は、この構成を参考にすることで、API コストをゼロに抑えたローカル LLM 実装の検証サイクルを劇的に短縮できる。
- 日本への影響: 国内の AI スタートアップや個人開発者が、機密性の高いプロトタイプ開発において、パブリッククラウドに依存しないセキュアな検証環境を構築する際の技術選定基準となる。
3. 根拠・詳細（How）
- rsgm.dev 公式ブログ (公開日未確認)