AIは間違う
AIが得意と言われている仕事がありますが、実はそれさえ間違うことがある、という問題があります。開発者としてはフタをしたい事実なのですが、一緒に解決したいという思いで赤裸々にお伝えします。
例えば、医療現場ではAIにレントゲンを見せて癌を発見させるという試行をしています。大半の癌は見つけるのですが、少数の見逃しや誤検出があります。
自動車関連工場では、生産ラインで部品を監視し不良品をAIに発見させています。大半の不良品は見つけるのですが、少し見逃しや誤検出があります。
カメラで不審者を発見するような仕事も、多少の見逃しがあります。
どれも命や安全に係わることですから、本来であれば見逃しは致命的ですよね。間違いはだいたい1～2割です。このため現場では、AIを完全に信頼するのでなく、人の補助ありきで導入しています。
なぜ失敗するのか
正確無比であるはずのコンピュータがなぜこのような失敗をするのでしょうか。
それは、AIが人間の脳を真似しようとしているからです。
人間の脳が考える事は常にあいまいさを持っており、これを実現しようとすると大量の計算をしなければなりません。大量の計算を瞬時に処理するため、正確性を捨てているところがあります。レントゲン検査も部品検査もAIにとっては画像処理です。画像一枚1000万個以上の点データがあり、点データそれぞれに関連性があるか計算し、物体を認識しているのです。
別の話として、全てを学習できないという問題があります。
検査の計算をさせる前に、学習という処理が必要です。多くの実例データをAIに覚えさせることによって、判断ができるようにすることです。学習するデータが多いほど精度は上がりますが、この世に実例は無数にあるため、全てを学習しようとするとデータ収集の手間、データの転送や保存コスト、学習の計算時間が膨大になります。AIの正解率を100%にするのは難しいと言われるのはこのためです。
対策しつつ研究を期待
これらの対策として、現在は以下のようなことが試されています。
・AIは1～2割は間違いを起こすものだと受け入れ、人間が補助を行う（人間の補助をさせる）形で運用する
・事前にデータを加工（画質、音質、サイズなどの調整）してAIが正解を見つけ易いようにする
・正解を見つけるAI ＋ 不正解を見つけるAI（アノーマリ検出といいます）の組み合わせや、段階を経たAIの組み合わせなど、複数のAIを併用して精度を上げる
上記のアノーマリ検出というのは、正常な状態を学習することでいつもと違う異常を検知する、という方法です。こういった視点の違う方法も含め、AIの論理は研究団体のほうで研究され続けています。使う側も柔軟に理解して取り込んでいく必要があります。
AIの種類についてはこちら －＞ AIを実現するのは機械学習、AIの種類～ありそうで無い分類表～