AI

2026.11.19 09:26

AIがもたらす最大のリスクは、人間がそれをどう使うかにある

Adobe Stock

Adobe Stock

BRANDVOICE | Paid Program

もっと見る>

AIエージェントが独自に行動し、人間に被害を及ぼす可能性があるのではないか、場合によっては致命的な被害さえもたらすのではないか。テック業界の専門家が表明したそうした懸念をめぐる激しい議論は、ひとまず沈静化した。だが、Microsoft創業者のビル・ゲイツが記事やインタビューで繰り返し指摘しているように、より差し迫ったリスクは、政府から悪意ある個人に至るまで、人間がAIをどう使うかにある。ゲイツはこう記している。「ごく限られた技能しか持たない犯罪者であっても、個人、企業、政府というあらゆる規模で被害者を標的にできるようになる」

ゲイツは、AIによって個人や集団が「爆弾、生物兵器、さらにはコンピューターウイルスのような兵器」の作り方を見つけやすくなり、「病院、金融機関、水道システム、電力網、政府給付の管理システム」を攻撃しやすくなると主張する。もっとも、ゲイツはAI全般に対する徹底した反対論者ではない。AIには建設的な活動を可能にする大きな可能性があると見ている。ただし、それは彼が指摘したようなリスクを軽減する方法を見いだせた場合に限られる。

悪意を持つ個人によるAIの利用は、この新技術がもたらすリスクの一側面である。だが、政府によるAI利用、とりわけ戦争遂行における利用も監視され、制約されなければならない。ニューヨークを拠点とするブレナン・センターのエイモス・トーとエミール・アユーブによる研究は、AI戦争に全面的に突き進むことがもたらす最大の危険を指摘している。それは「軍によるこの技術の配備が有効で、安全で、合法であるかどうか」だ。

政府はすでに、戦争遂行にAIを利用している。イランでは、米国が標的リストの作成にAIを使い、イスラエルのガザ戦争では、爆撃のペースを加速させるためにAIが使われた。

トーとアユーブは、戦場でAIを使うことがもたらすリスクについて、次のように詳述している。

「AI導入を急ぐことは、生死を分ける判断において人間の専門知識と判断を置き換える恐れがあり、兵士と民間人の双方を危険にさらす。AIチャットボットを使ったことがある人なら誰でも知っているように、それらは明白な誤りも、発見がより難しい誤りも含め、頻繁に間違いを犯す」

もう1つの懸念は、人間の関与や管理なしに、AIが兵器を発射し、標的を選ぶために使われる可能性である。米国防総省は現在の方針として、常に「人間をループに入れる」としているが、AI主導の戦争の論理はそれを変えかねない。軍事テック企業Anduril(アンドゥリル)の最高戦略責任者クリスチャン・ブローズは、著書『Kill Chain(キル・チェーン)』で、将来の戦争の勝者は、標的を最も速く特定し破壊できる側になると論じている。そうだとすれば、人間の介入なしにAIにその仕事を任せようとする強い圧力が生まれる。人間の関与には時間がかかり、そのため標的の取得と破壊のプロセスを遅らせかねないからだ。フランク・ケンドール元空軍長官は、完全自律型兵器は避けられないと主張している。

ゲイツとブレナン・センターの研究者たちは、1つの点で一致している。個人による利用であれ政府による利用であれ、AIの危険な使い方を抑制する政策は、この技術が開発され利用可能になっていく速度に大きく遅れている。政府、企業、独立した専門家、そしてより広範な市民社会は、その隔たりを埋めるために早急に取り組む必要がある。

(forbes.com 原文)

タグ:

advertisement

ForbesBrandVoice

人気記事