日立製作所は2020年1月27日、AI(人工知能)の判断根拠を説明する技術「説明可能AI(XAI:Explainable AI)」を使い、業務システムへのAI導入・運用を支援するサービスの提供を始めたと発表した。ブラックボックスになりがちなAIの判断根拠を定量的に示すことで、現場担当者はAIの判断を納得し、受け入れやすくなる。住宅ローン審査から販売予測まで幅広い分野に適用する考えだ。

 AIの判断を左右する重要なデータ項目を抽出する説明可能AIツールとして、表データ向けには「SHAP(SHapley Additive exPlanations)」、画像データ向けには「Grad-CAM(Gradient-weighted Class Activation Mapping)」などを適用する。いずれも幅広いAIモデルに適用でき、AIの推論精度を犠牲にせずに説明可能性を高められる。日立の技術者やコンサルタントはこれらのツールを基にAIの判断根拠を顧客企業の現場担当者に説明し、必要に応じてAIモデルを改善する。現場担当者はAIの判断根拠への理解を深めることで、PoC(概念実証)を越えて業務にAIを本番導入しやすくなる。

「AI導入・運用支援サービス」の概要
(出所:日立製作所)
[画像のクリックで拡大表示]

 本番稼働後にAIを運用するフェーズについても、AIの品質管理などに説明可能AIを使う。推論の精度が落ちてきた際に説明可能AIなどを使って要因を特定し、学習データの更新といった必要な修正を判断しやすくする。導⼊したAIの判断に誤りがあって損失を被った場合に現場担当者が結果責任を負わずに済むような人事制度の改善・導入など、企業がAIを本番活用しやすくする施策についても助言する。