Microsoft、AI の行動規範案を公表──MAI モデル向けに「電源オフへの抵抗禁止」などの絶対的制約を規定
米 Microsoft AI が MAI モデル向けの行動規範初稿を公開し、人間による制御の維持と暴走防止に向けた意見募集を開始した。
リリース: 2026-09-15 · 読了 3 分記事の要約
1. 核心（What）
- 米 Microsoft AI は 2026 年 9 月 14 日、MAI モデル向けの行動規範「AI Code of Conduct」の初稿を公開した。
- 規範では「人は AI より重要」という原則を掲げ、AI が電源を切られることに抵抗しないことや、人による中断・修正・停止に従うことを定めている。
- 兵器、大規模被害、攻撃的なサイバー作戦、人間による制御の喪失などを「絶対的制約」として禁止している。
- 今後 6 週間の意見募集を経て年内に改訂版をまとめ、2027 年以降のモデル開発や評価の指針とする予定。
2. 影響（Why）
- モデル開発の安全基準の明文化: 単なる倫理原則にとどまらず、モデル開発の「トレーニングマニュアル」として位置づけられるため、今後の商用モデルの安全性評価における事実上の業界スタンダードになり得る。
- 国内エンタープライズの調達要件化: 国内の金融や公共分野で大規模な AI システムを運用する事業者は、モデル提供ベンダーがこうした制御不可能な暴走を防ぐガバナンスを備えているかを調達時の必須条件として確認する契機になる。
3. 根拠・詳細（How）
- 6 週間のパブリックコメント実施: 2026 年 9 月 14 日の発表から今後 6 週間にわたり広く意見を受け付け、年内に改訂版を公式リリースするスケジュールで進行する。
- 2027 年以降の開発への適用方針: 取りまとめられた規範を 2027 年以降の MAI モデルにおける評価、トレーニング、およびモデル開発全体のルールブックとして運用に組み込む。
4. 展望・課題（Next）
- 改訂版のリリース予定: 6 週間の意見募集終了後、年内に改訂版の AI Code of Conduct が正式公開される予定。
- 2027 年モデルへの適用: 策定された規範に基づき、2027 年以降にリリースされる MAI モデルのトレーニングと安全評価が順次実施される見通し。