デモ映像の限界と、信頼を左右する「失敗のデータ」
ここで大きな問題になるのは、家庭用ロボットの進化が速すぎるのではないか？ということだ。この問いに対し、キャスは「確かに、テクノロジーは評価インフラよりも速いスピードで進化している」と指摘する。「洗練されたデモ映像は、予想の範囲内の状況下でロボットができることを示している。だが、こうした映像を見ても、めったに起きない、判断に迷うような状況については何もわからない。人の周りに配置されたロボットが実際に安全かどうかを決めるのは、後者の状況だ」
率直に言って、こうしたキャスの指摘は、私たちがソーシャルメディアで毎週のように見ているコンテンツの大半に当てはまるだろう。
キャスは、すべてのヒューマノイドロボットメーカーに対して、こう問いかけるよう提案している。「『うまく機能している場面を見たい』ではなく、『失敗した場面を見せてほしい。そして、失敗した時のデータをその後どのように活用したのかを教えてほしい』と尋ねるべきだ」
めったに起きない事例での対応が、世間一般の信頼を得られるかどうかの分かれ目になると、キャスは考えている。これは、先進オートメーション協会のバーンスタインが、初期段階での事故に警鐘を鳴らした発言とも通じるものだ。
「大半の事例に問題なく対応できるモデルであっても、世間一般の信頼を得られるかどうかは、まれな事例で起きたことに左右されるだろう。動画が撮影され拡散されるのは、後者のケースだからだ」とキャスは語る。「全体的な数字がどれだけ優秀であっても、1件の不具合の動画が広く拡散すれば、それだけで開発プログラムが何年分も巻き戻される可能性がある。ゆえに、実世界でのストレステストは、導入後ではなく導入前に実施しなければならない」
では、どんな条件をクリアしたら、キャスはヒューマノイドロボットが安全だと確信するのだろうか？
それは、見栄えのよい場面だけを集めたショート動画の中でなく、通常の状況や悪条件下においても安定したパフォーマンスが維持されていることだ。また、センサーの検知能力が低下した時や、周囲の人が予想外の行動を見せたとき、あるいはトレーニング用のデータになかった未知の状況や物体に衝突した時に起きることについても、エビデンスが必要になる。その上で、こうした不具合の様子を捉えた動画のデータがトレーニングに追加されていることを示す、ドキュメント化され検証可能な記録が残されていなければならない。
「この閉じたフィードバックループがエビデンスになる」とキャスは語る。「このループが確立されていることを明示できる企業であれば、そのメーカーのロボットを人のそばに置いて良いと、私も信頼を置ける。これが明示できない企業は、デモ映像を疑わずに信じてくれ、と言っていることになる」
安全柵は撤去されつつあり、ロボットが私たちの生活スペースに入ってこようとしている。業界は今こそ、ヒューマノイドロボットが本当に、子どもや乳児、ペットの近くにいても安全だと証明しなければならない。
