「衝突回避」だけでは不十分、アップデートとテストのループ
ロボットの安全対策と聞いて、大半の人が思い浮かべるのは衝突回避だろう。つまり、人の姿が視界に入ったら動きを停止する機能だ。アジリティ・ロボティクスは自社のDigit 5について、2027年にこの機能を導入するとの見通しを示している。しかしキャスによると、確かにこれは必要な機能であるものの、これだけではとても十分ではないという。
「衝突回避は不可欠だが、これは（全体的な安全対策の）一面にすぎず、しかも最終手段だ」とキャスは指摘する。「ロボットが衝突回避に依存しているような状況では、その上流の過程で、すでに何か問題が起きているということを意味する」
実際に必要とされているのは、「衝突する0.5秒前に反応する」ロボットではなく、人が次にとる可能性が高い行動を予測し、なおかつ予測が不確かな場合は、安全を確保する退避行動を選ぶものだという。
また、従来型の産業ロボットの時代には存在しなかった問題も浮上している。これまでは、決まった命令を実行する同じ制御コードを何年も使っていたのに対し、家庭用ロボットに使われるAIモデルは変化する。6月の時点で安全検査に合格していたロボットの「頭脳」が、3カ月後の9月にはまったく別物になっている可能性もある。この場合、もう一度検査を受けるべきだろうか？ それとも、このまま使い続けても良いのだろうか？
「検査を通過したら終わり、という関門として捉えるのではなく、ループとして捉えるべきだ」とキャスは提案する。「すべての重要なアップデートについて、既知の不具合やエッジケース（想定から大きく外れた状況での問題）を考慮し、現実を反映したシミュレーションを行なうリグレッションテスト（修正後に既存の機能に不具合が発生していないかを確認するテスト）を出荷前に実行すべきだ。導入時に新たに判明したすべての不具合も、改めてこのテスト項目に投入する必要がある」
さらに、このテストのループには、人間が関わり続ける必要があるという。なぜなら、計測値は何かが変わったことを知らせてはくれるが、その理由までは教えてくれないからだ。
「自動化した計測値を見れば、モデルのパフォーマンスに変化があったことはわかる。だが、そのロボットがスムーズに部屋に入ってこられなかった理由や、差し伸べられた手を誤認識した理由はわからない」
今後はヒューマノイドロボットについても、自動車のように「衝突試験」を実施すべきなのだろうか？ 確かに、ある程度まではそうだ。キャスも、特に不具合が起きた時の挙動や人とのやりとりに関しては、共通の基本的な基準を設けるべきだとの考えだが、自動車の試験との比較が当てはまるのはそのレベルまでだという。
「衝突試験が機能しているのは、すべての自動車が直面する物理的条件がほぼ同じだからだ」とキャスは語る。「現実世界を認識・作用するフィジカルAIには、そうした共通する条件はない。倉庫用ロボットと家庭用ロボット、そして外科手術を行なうロボットが置かれる環境は、それぞれがまったく異なり、不具合が起きた時の影響も大きく違う。ゆえに、どんな基準が設けられるにしても、すべてのロボットに適用されるコア基準に加えて、各領域に特化したテストが必要になるだろう」
