今日は 研究チーム、LLM への業務委任による文書汚染を調査──最先端モデルでも長期間編集で 25% が破損

LLMへの業務委任が文書の整合性を破壊するリスクを、我々は直視すべきだ。研究チームの調査で、最先端モデルに長期間編集を委ねた文書の25%が破損することが判明し、特に推論性能の非線形性により「A>BかつB>CでもA>Cとは限らない」という推移律の崩壊が実証された。この結果は、RAGやエージェントの多段推論パイプラインにおいて、モデルの判断を無批判に積み重ねる設計が致命的なバグを誘発することを意味する