OBLITERATUS、非検閲モデル Qwen3.8-27B-OBLITERATED V3 を公開──SVD と LEACE の重みブレンドにより MMLU 低下を -0.9pp に抑制
Qwen3.8-27B の安全性ガードレールを重み空間の外科的除去で完全撤廃しつつ、推論モード時の拒否応答をゼロ件に抑えた。
リリース: 2026-08-19 · 読了 3 分記事の要約
1. 核心（What）
- OBLITERATUS が Qwen3.8-27B をベースにした非検閲モデル Qwen3.8-27B-OBLITERATED V3 を公開。
- 思考モードの ON/OFF 双方でリクエスト拒否応答がゼロになるよう 1,000 件のコーパスで追加調整を実施。
- SVD（特異値分解）と LEACE（共分散最小化）の 2 つの手法を 60対40 の比率で重み空間補間する独自技術を導入。
- ライセンスはベースモデルと同じ Apache 2.0 を採用し、約 54GB（18シャード）の bfloat16 重みを配布。
2. 影響（Why）
- 能力低下を最小限に抑えた脱検閲: 従来の単一手法による切除では汎用能力が大幅に損なわれていたが、ブレンド手法により MMLU の低下を -0.9pp 以内に留め、実用タスクでベースと同等を維持した。
- ローカル検証の自律性確保: API 側の制約に依存せず、レッドチーム演習やプロンプトインジェクション耐性の評価を完全にオフラインの自社ハードウェア上で実行できる。
3. 根拠・詳細（How）
- SVD と LEACE の重み空間ブレンド: SVD 側（Surgery A: 3方向、正則化 0.08）と LEACE 側（Surgery B: 3方向、正則化 0.06）の異なる弱点を 60:40 の比率で線形補間し、能力保持と安全軸除去を両立。
- 1,000 プロンプトによる多層的リファイン: マルウェア開発やエクスプロイト検証を含む 1,000 件の特化コーパスを用いたリファインパスを適用し、思考モード有効時の頑健性を向上。
4. 展望・課題（Next）
- 全件 MMLU バリデーションの完了予定: 14,000 問におよぶ全件 MMLU の検証プロセスが現在進行中であり、今後詳細な性能データが公開される見込み。