ＡＩ（人工知能）の普及により、ＡＩを使う際のリスクをどう低減するかも重要な課題だ。特に電力施設をはじめとした重要施設に導入した場合、誤動作発生の防止など、ＡＩには高い信頼性が求められる。三菱電機はＡＩの動作を短時間で網羅的に検証する新しい技術を開発した。誤操作の発生を防ぎ、ＡＩが社会インフラなどでトラブルなく安全に使用できるように貢献する。２０２５年度以降に社内外で開発するＡＩで実証を進める。（編集委員・小川淳）

一般的にＡＩの信頼性を評価するには、学習データとは異なる一定数の試験データを使い、正解率を評価する。しかし、ＡＩの動作は非常に複雑であり、この手法ではテストを実施していないデータに対し、誤動作のリスクを完全に排除することはできなかった。

一方で、ＡＩに期待する動作を事前に設定することで、それに基づいてＡＩが正しく動作するかを網羅的に検証する手法が用いられている。しかし、ＡＩモデルの規模が大きくなると検証時間が膨大となるため難しいという課題があり、現状では「網羅的な検証自体が現実的ではない」（ＡＩ研究開発センターの毬山利貞センター長）。

そこで三菱電機は、数値データ予測などで一般的に使う手法の一つで、木構造によって分類や回帰を行う「決定木」を複数組み合わせた「決定木アンサンブルモデル」に対し、効率的に網羅検証を行うアルゴリズムを新規に開発した。

ＡＩに入力するデータの範囲をフィードバックしつつ分割して検証することで、従来の網羅検証の手法と比べ、数十から数百倍に高速化して検証できることを確認した。

例えば乳がんの良性と悪性の判断では従来は８・９６秒必要だったが、新手法では０・３秒だった。また、航空機の自動衝突回避では従来が２４時間以上だったのに対し、新手法は１・７時間で処理できたという。

同センターの吉村玄太データ分析技術グループマネージャーは「１日たっても終わらない検証が２時間弱という現実的な時間で検証できるのが重要」と指摘する。

併せて直感的に操作できるブラウザーベースの対話的な検証ツールも開発する。ＡＩの開発者が網羅検証のサイクルを高速に回すことで誤動作のリスクを減らし、ＡＩの信頼性を高めていくことを目指している。

実際には誤操作の発生を完全にゼロにすることは困難だが、毬山センター長は「事前に定義したものの中で、その通りにＡＩが動いてくれるという点をまずは保証したい」と展望を示す。

今後、電力や社会インフラ、サイバーセキュリティーといったＡＩの誤動作の影響が極めて大きい分野などでの普及を目指し、ＡＩの社会での導入を促進していく。