実際、AIは生産設備の故障予知や小売店の来客・売上予測に用いられるなど、未来予測という文脈で使われるケースが徐々に増え始めている。人間には決して処理できない膨大な量のデータを分析できるという特徴から、人工知能への期待は膨らむばかりである。しかし一方で、そのようなAIの未来予測を“万能視”する風潮について「危険だ」とする指摘が相次いでいる。
「運よく未来を当てる」では不十分
ライス大学統計学科のジェネヴェラ・アレン准教授は、科学分野における機械学習の濫用に警鐘を鳴らす人物のひとりだ。アレン准教授は2月15日、米ワシントンDCで開催されたアメリカ科学振興協会の席にメディア取材に応じ、既存の機械学習は不正確、また間違った分析結果を出す場合が多いと指摘している。
というのも、既存のAIは与えられたデータの範疇のなかでパターンを割り出し予測を立てているだけで、それ以上でもそれ以下でもないというのだ。しかもAIは、「パターンを探すことができなかった」「関連性を発見できなかった」など、結論を保留することを許されていない。結果が間違っていたとしても、それが結論だと人間側に提示するようプログラムされている。
そのようなAIに依存することで、科学全般の再現性が低下してしまう可能性がある。また、ビッグデータを収集するためには長い時間と資金がかかるため、リソースの無駄遣いに繋がるリスクがあるというのがアレン准教授の意見だ。
結局、AIの未来予測が正しいものになるか否かは、要因（＝データ）の選別にすべてがかかっている。しかしながら、モノゴトの未来に影響を与えるであろう要因にはほぼ無限の選択肢があり、そのうちどれかをAIが自律的に選び取ることはできない。故に、人間側に要因を見抜く力、もしくはキュレーションする力がなければ、未来予測を実現するAIはつくれないということになる。
しかも、科学分野においては、たまたま運よく未来を当てるだけでも不十分だ。一度出た成果が、何度も繰り返し再現されなければならない。そのため、アレン准教授は、現在、膨大な量のデータを処理するだけでなく、結果の不正確性を判断したり、再現性を追求できる次世代機械学習および統計システムを開発中だという。
