「AIがやった」に実際に反論できるもの
キャロルの実験では、真相をたどることはできた。ただし、その手がかりは、調査官が普段調べる場所にはなかった。ファイルシステムの変更ジャーナル（ファイル操作の履歴記録）には、書き換えが秒単位で記録されていた。イベントログには、静かに実行されたPowerShellセッションが捕捉されていた。さらにエージェント自身もセッションログを保持しており、入力された指示が一言一句そのまま残っていた。異なるシステムがそれぞれ独立に作成した3つの記録が、一貫した1つのストーリーを語っていたのだ。
つまり、SAIDI型の抗弁に反論するには、事後にデバイスを調べるほかない。実際に何が実行されたかを捉えた変更ジャーナル、イベントログ、エージェントのセッション記録を分析する作業だ。もっとも、キャロルの実験でログが立証できたのは、指示が与えられ、エージェントがそれを実行したという事実までだった。誰がその指示を入力したのか、その人物がエージェントの挙動を理解していたのかどうかまでは、立証できなかった。
裁判所はすでに、機械が作った証拠に備え始めている
連邦裁判所は、この問題の一部を予見していた。だが、その後は慎重な姿勢に転じた。提案されていた連邦証拠規則707は、機械が生成した証拠に対し、人間の専門家証言と同じ信頼性基準を適用するものだった。しかし、パブリックコメントで意見が分かれたため、規則委員会はさらなる検討のためにこの提案を取り下げた。
エージェントによる操作を誰に帰属させるかをめぐる争いは、規則が整う何年も前に法廷に持ち込まれる可能性がある。しかも裁判所は、通常のデジタル証拠の扱いにもすでに苦慮している。
エージェント自身が証言台に立ってこれを説明することは決してない。連邦証拠規則603条は、すべての証人に対し、良心を拘束するための宣誓を義務づけている。だが、ソフトウェアには拘束すべき良心がない。この点に関するキャロルの一言は、記憶にとどめる価値がある。「説明責任がなければ、そこにあるのは証言ではなく、単なる出力です」。
AIエージェントは、すでに私たちの身近にいる。ごく普通のコンピューター上で、ごく普通のユーザーアカウントの下、ファイルを読み、文書を作成している。その活動のどこかに、人間がファイルに触れたのか、それともその人のAIエージェントが触れたのかが争点となる最初の事件が潜んでいる。調査官が「足跡がない」というところで調査を止めれば、誤った答えの代償は、正しい答えを必要としていた人に降りかかる。
