宇宙旅行に関して私が知っていることは、すべてビジネスから学んだものだ。私はAOLやYahooの時代から消費者データに携わり、現在はオムニコム（Omnicom）グループ傘下となっている企業で20年以上を過ごしてきた。直近では最高技術責任者（CTO）や最高AI責任者（CAIO）を務めた。私の仕事は、人々が買い物をし、閲覧し、クリックした際に残す消費者データや、法律によって記録の閲覧権限やその理由が決められている医療・金融サービス分野の機密データを扱うことだった。私は宇宙船の開発に携わったことは一度もない。しかし、火星に向かうクルーに関するNASAの計画と、そのクルーが依存することになるAIについて理解し始めると、自分がすでに経験してきた課題が次々と浮かび上がってきた。
根本的な問題は時間だ。NASAは火星への通信において「片道最大22分の遅延」を想定している。20年間にわたる遅延研究を調査したNASAエイムズ研究センター、KBR、サンノゼ州立大学の研究者らは、「レイテンシー（通信遅延）の長さに応じて、特定の役割や責任を地上チームからクルーへと移行させる必要がある」と結論づけた。クルーと彼らが搭載するシステムは、自分たちだけで意思決定を行わなければならない。
消費者データによって事業を運営する企業や、機密データを保持する病院、保険会社、銀行は、遅れて届く不確かなデータに基づいて何年も前から判断を下してきた。以下は、そこから私が学んだ6つの教訓だ。
無視されるメッセージ
ほぼすべての人に機能するパーソナライゼーションであっても、適用を誤ったたった一人の人間を傷つける可能性がある。2014年12月、Facebookの「Year in Review（過去1年の振り返り）」機能は、ウェブデザイナーのエリック・マイヤーに対し、その年に亡くなった彼の娘の写真とともに「エリックさん、あなたの1年はこんな年でした！」という挨拶を表示した。マイヤーはこれを「意図せざるアルゴリズムによる残酷さ」と呼んだ。圧倒的多数のケースで機能するコードがもたらした結果だった。この機能を担当したプロダクトマネージャーは、本人に直接謝罪した。
宇宙船のクルーも例外ではない。520日間にわたる隔離実験「Mars-500」で、研究者らは「クルーの行動反応に大きな個人差がある」ことを観察した。ミッションの予行演習として密閉空間で生活するNASAの「HERA」居住施設で、クルーは現在のタスクと無関係であるか、または古くなったミッション管制センターからのメッセージを無視した。
NASAはすでに一部のサポートをクルーに合わせて個別に調整している。しかし、NASAの1年間の火星シミュレーションにおける4名という人数は、何千人もの人々から1人のニーズを推測する「類似オーディエンス（ルックアライク）モデル」を適用するには少なすぎる。船内AIは、各自の基準値（ベースライン）に照らして1人ひとりを学習しなければならない。
