ornith-ai、Mixture-of-Experts モデル Ornith-1.5-35B-A3B-GGUF を公開──3B 有効パラメータで 256K コンテキストを実現
タスク生成からポリシー最適化までの自己改善ループを拡張し、約 35B パラメータ規模でエージェント型コーディング性能を大きく高めた。
リリース: 2026-08-19 · 読了 3 分記事の要約
1. 核心（What）
- ornith-ai は Ornith-1.5 ファミリーの中規模 MoE モデルである Ornith-1.5-35B-A3B を公開した。
- モデルは総パラメータ数約 35B でありながら、1 トークンあたりの有効パラメータ数を約 3B に抑えている。
- ネイティブで 256K トークンのコンテキストウィンドウをサポートし、YaRN スケーリングによって 1M トークンへの拡張に対応する。
- vLLM、SGLang、llama.cpp 向けの起動コマンドと OpenAI 互換のエンドポイント機能を提供する。
2. 影響（Why）
- ローカル推論のコスト効率向上: 有効パラメータ数を 3B に絞った MoE 設計により、2基の 80GB GPU で大容量コンテキストを維持した高スループット推論が成立する。
- エージェント開発の実装容易性: OpenAI 互換の tool_calls パーサーと reasoning_content 出力を標準備え、既存のエージェント SDK からコード改修なしで呼び出せる。
3. 根拠・詳細（How）
- MoE アーキテクチャと有効パラメータ数: 総パラメータ数約 35B のうち推論時に発火するパラメータを約 3B に制限し、bf16 形式で約 70GB の VRAM フットプリントに収めている。
- コンテキスト拡張メカニズム: 標準 262,144 トークンの上限に対し、vLLM および SGLang の設定で YaRN スケーリング（factor=4.0）を適用することで約 1M トークンまで拡張する。
4. 展望・課題（Next）
- エコシステム統合の深化: Unsloth などの高速化ライブラリとの統合や、各種エージェントツールチェーンでの動作検証が進められる予定である。