orcarouter、Apple Silicon 向けセーフティ解除済みモデル Qwen3.8-27B-Uncensored-MLX を公開──262K コンテキスト対応
Qwen3.8-27B の安全性アライメントを abliteration 手法で除去し、Apple Silicon 向けに 2 から 8 ビットの MLX 形式で量子化した研究用モデル。
リリース: 2026-08-20 · 読了 3 分記事の要約
1. 核心(What)
- orcarouter が HuggingFace 上で Qwen3.8-27B-Uncensored-MLX を公開し、262K コンテキストやビジョン機能を備えた Apple Silicon 向け MLX 形式を提供した。
- モデルはアライメントの除去(abliteration)により拒否応答を行わず、すべての要求に対して応答を生成する。
- 量子化は 2、4、6、8 ビットの 4 プレシジョンが用意されており、ビジョンタワーやノルム層は BF16 を維持しつつ線形ウェイトを量子化している。
- リポジトリのルートには 4 ビット版が配置され、LM Studio などのツールで直接読み込みが可能。
2. 影響(Why)
- ローカル環境での高度な安全性解析: クラウド API のフィルターに阻まれずに拒否メカニズムやロバスト性を検証できるため、アカデミックな解釈性研究の実験コストが大幅に下がる。
- 国内の研究・ガードレール開発への応用: 国内のセキュリティ・AI 倫理を研究するチームが、独自の安全フィルターやモデレーション層を評価するためのベースラインモデルとして利用価値が高い。
3. 根拠・詳細(How)
- abliteration による安全性の除去: 残差ストリームから拒否の方向性を直交化して取り除くアプローチにより、モデルの基本性能を維持したままセーフティアライメントを実質的に無効化している。
- mlx-vlm を用いたマルチモーダル推論: mlx-vlm 0.6.13 以降および mlx 0.32 の環境下で、Apple Silicon の Metal バックエンドを利用して画像とテキストの統合処理を高速に実行する。
4. 展望・課題(Next)
- 利用上の注意事項と倫理的責任: モデルの出力結果に関する全責任は利用者に帰属し、エンドユーザー向けのプロダクト展開には独自の不正利用防止レイヤーの追加が必須。