China Telecom、モデル Xing4.0-29B-A4B を公開──29B パラメータで 4B アクティブの MoE 構造
Ascend NPU プラットフォームと MindSpore で全面学習された総パラメータ 29B・アクティブ 4B の MoE モデルで、256K から 512K の長文脈をネイティブサポートする。
リリース: 2025-07-24 · 読了 3 分記事の要約
1. 核心（What）
- 総パラメータ数 29B、トークンあたり 4B アクティブの MoE アーキテクチャを採用した言語モデル Xing4.0-29B-A4B が HuggingFace に公開された。
- コンテキスト長はネイティブで 256K、最大 512K まで拡張可能であり、SWE-bench Verified や Terminal-Bench 2.1 などのベンチマークで評価されている。
- Nvidia GPU 以外の環境として Ascend NPU プラットフォームと MindSpore フレームワークで全面学習された最初の同規模モデルである。
- vLLM、SGLang、KTransformers などの主流な推論フレームワークや OpenAI 互換 API に対応している。
2. 影響（Why）
- Nvidia 依存からの脱却とハードウェア多様化の現実解: Ascend NPU 環境に特化した学習実績を示すことで、特定のハードウェア依存を低減したいインフラ設計者にとって非 Nvidia 環境での大規模 MoE 運用という実用的な選択肢が生まれる。
- 国内 SaaS 事業者における長文脈エージェント検証の選択肢: 国内のカスタマーサポートやドキュメント解析を手掛ける中規模 SaaS 事業者は、256K 以上の長文脈を 4B アクティブの低負荷で処理できるオープンモデルとして、ローカル環境でのエージェント性能検証を低コストで試行できる。
3. 根拠・詳細（How）
- mHC・MLA・MTP を統合したエージェント向け構造: mHC と MLA、MTP を組み合わせたアーキテクチャにより、長文脈下でもマルチステップの計画やツール呼び出し、推論チェインの実行安定性を維持する設計。
- Ascend 910C クラスタによる学習スループットの最適化: MindFormers フレームワークを活用し、DVM 自動グラフ演算子融合や Ascend C mHC 融合演算子などを導入することで、従来比で約 96% の学習スループット向上を実現している。
4. 展望・課題（Next）
- エコシステム連携とファインチューニングの展開: LLaMA-Factory や MindFormers を用いたドメイン適応ファインチューニングの検証が進められ、OpenCode や Claude Code といったエージェントフレームワークとの互換性検証が予定されている。