Wavestone NewVantage Partnersが、データ分析上級管理職を対象として行った、新しい調査によれば、現時点で自らをデータ駆動型と考える企業はわずか24％であり「データ文化」と考えられる企業はわずか21％に過ぎないことが明らかになった。また、組織内や業界内で責任ある倫理的なデータ利用を確保するために十分な取り組みを行っていると回答した企業はわずか24％だった。この研究の著者であるトム・ダベンポートとランディ・ビーンは「データ駆動型になることは、何年も何十年もかかる長く困難な道のりであることを、組織は徐々に認識している」と指摘する。「企業における、データ倫理の方針と実践への注意と取り組みは、依然として不足しています」
AWS（アマゾン・ウェブ・サービス）のカテゴリーマネジメントディレクターであるモナ・チャダは、データのギャップこそがAIの成功に影響を与える最も差し迫った問題だと述べる。彼女は「企業はデータの品質の悪さや、不公正なバイアス、セキュリティの甘さなどの問題にもっと気を配らなければなりません」と語る。「AIモデルの予測の品質は、モデルの学習に使用したデータに強く依存します。データの品質が悪いと、結果が不正確になったり、モデルの動作に一貫性がなくなったりして、顧客や社内の関係者からの信頼が得られにくくなります」
データバイアスやセキュリティも、AIに対して取り組むべき課題だとチャダは続ける。「私たちは、AIは人よりも公平な判断ができるという思い込みに陥りがちです。AIモデルの学習に使用されるデータ中に存在する不当なバイアスは、差別的な行動を引き起こし、企業を危険にさらす可能性があります。攻撃者は常にAIの脆弱性を利用しようとしています。企業は、自社のAIシステムがデータとアルゴリズムにわたる敵対的な攻撃から保護されていることをしっかりと確認する必要があります」
