ornith-ai、混合エキスパートモデル Ornith-1.5-35B-A3B を公開──トークンあたり約 3B 活性化でエージェント特化コーディングを最適化
自己改善ループをタスク生成やロールアウトへ拡張し、トークンあたり約3Bのアクティブパラメータで同等規模の Qwen 3.6-35B を上回るコード生成とエージェント性能を達成した。
リリース: 2026-08-19 · 読了 3 分記事の要約
1. 核心（What）
- Ornith-1.5-35B-A3B は、エンドツーエンドの自己改善ループをタスク生成やロールアウトへ拡張した混合エキスパートモデル。
- 約 35B のパラメータを持ちながら、トークンあたり約 3B のパラメータのみをアクティブ化して高速な推論を実現。
- Terminal-Bench 2.1 や SWE-Bench などのコーディング・エージェントベンチマークにおいて同等規模のモデル群を凌駕。
- vLLM および SGLang を用いた 2× 80GB GPU 環境でのデプロイ構成や、YaRN による 1M トークン拡張手順を公式に提供。
2. 影響（Why）
- ローカルエージェント運用の現実解: トークンあたりのアクティブパラメータ数を抑えつつ高度なツール利用性能を持つため、API コストを気にせず自社環境で大規模なエージェントワークフローを回せる。
- 国内受託開発のコスト削減: 国内のシステムインテグレーション企業や生成 AI 受託開発の現場では、高額な商用モデルへの依存を減らし、セキュアな VPC 内で完結する高精度コーディング環境を構築できる。
3. 根拠・詳細（How）
- MoE アーキテクチャと効率的なアクティベーション: 約 35B の総パラメータに対してトークンごとに 3B のみ発火させる設計により、70 GB (bf16) のメモリフットプリントで高スループットな推論を実行する。
- YaRN によるコンテキスト長拡張: 標準の 262,144 トークンに加え、rope_scaling 設定に YaRN (factor 4.0) を適用することで最大 100 万トークンの長文脈処理をサポートする。
- OpenAI 互換エンドポイントの提供: vLLM や SGLang の起動コマンドに特定の parser フラグを付与することで、標準の /v1/chat/completions インターフェースを通じて推論とツールコールをシームレスに行う。
4. 展望・課題（Next）
- 実践的フレームワークとの統合: OpenHands や unsloth などのエコシステムとの連携が進んでおり、今後はファインチューニングやカスタムエージェントへの組み込みが容易になる。