AIのブラックボックス化解消の取り組み
AIのブラックボックス化解消に向けてIBMが新技術を開発したという記事。
これはAI導入・活用の一般化に向けて期待大な取り組みですね。
機械学習の進化の過程で徐々にその有用性を認識されてきた人工知能ですが、元々研究していた身としては、AI開発のある種前提となっていた「解釈性と性能のトレードオフ」が普及の際にはネックになるだろうとは感じていました。
AIの精度が向上すればする程、なぜ性能があがったのかの解釈が難しくなるという性質は、時に開発者本人でさえ理解不能の悩みの種となります。
現状、完全にパラメータフリーの人工知能（汎用AI）の実現はまだ難しく、どこかしらかでは人間（＝神）の恣意的なパラメータ設定が必要になります。
AI界隈のスラングでよく「黒魔術（笑）」と呼ばれていたりしますが、何故このパラメータだと上手くいくのかわからないけど、なんか上手くいくからこれで！的なノリで書いていたりすることも。Kaggleのトップとかでも、すごい長文の謎パラメータが仕込まれていたりします。
本件がどこまでの機械学習モデルをカバーし、どこまで中身を覗けるのかは不明ですが、「黒魔術」がただ局所最適解を求めていただけなのか、過学習しているっぽいのか、そのあたりを視覚的にテストしてくれるだけでも大分楽になりますね。
一般企業へのAI浸透は人知れず着々と進んでいくとは思いますが、一番勿体ないなと感じるのは、よく分からないけど入れると良さそうだからAI導入しよう⇒ブラックボックス過ぎてPDCA回せないのでやっぱ無し！となってしまうこと。
近頃のAI導入議論を見ているとどうもそうなりそうで怖いタイミングにしばしば立ち会います。
今回の取り組みがそういった機会損失を防ぐ方向に向かってくれれば大変嬉しいですね。
