人工知能（AI）は通常、テクノロジーの問題として語られる。政府は規制を議論し、企業はより高性能なシステムの開発を競い、投資家は生産性と経済成長に注目する。非営利組織もまた、資金調達、調査、コミュニケーション、プログラム提供、管理業務を支援するためにAIを導入している。
しかし、この変革の背後には、より大きな問いがある。組織が、自ら開発せず、統治せず、十分に理解していない知能にますます依存するようになったとき、何が起きるのか。
政府にとって、これは主権の問題になりつつある。非営利組織にとっては、それと並行する懸念、すなわち組織としての独立性の問題を提起する。
非営利組織のリーダーは、ミッション、資源、機密情報、そしてコミュニティに直接影響を及ぼし得る意思決定を託されている。AIが組織の内部により深く組み込まれるなかで、リーダーはAIが何の達成を支援できるかだけでなく、責任、判断、統制が最終的にどこに残るのかを考えなければならない。
主権はもはや政府だけの問題ではない
何世紀もの間、主権は主に領土、国境、天然資源、政治的独立と結びつけられてきた。デジタル時代は、データ、通信インフラ、テクノロジーが戦略的資産となったことで、その理解を拡張した。
AIは、情報の解釈や意思決定のあり方に影響を及ぼし得るため、さらに別の次元をもたらす。これは非営利組織にとって重要な意味を持つ。
人道支援組織は、ニーズを評価するためにテクノロジーを利用するかもしれない。開発組織は、プログラムを分析し、資源を配分するためにAIを使うことができる。医療や教育分野の非営利組織は、サービス提供を支援するためにインテリジェントシステムに依存する可能性がある。組織はまた、寄付者との関係構築、コンプライアンス、調査、内部計画にもAIを活用できる。
こうした応用は効率を高め、インパクトを拡大し得る。しかし同時に、ガバナンス上の問いも生み出す。組織が重要な意思決定の参考とするために外部システムに依存する場合、自らのミッション、方針、人間の判断が統制を保ち続けることを、どのように保証するのか。
非営利組織はテクノロジーを外部委託できる。しかし、自らのミッションに対する責任を外部委託することはできない。
AI時代の組織的独立性
課題は、非営利組織がAIを使うべきかどうかではない。技術進歩を避けることは現実的ではなく、必ずしも望ましいことでもない。課題は、組織の自律性を弱めるような依存を生み出さずに、いかにAIを導入するかである。
リーダーは、どのような情報がAIシステムに提供されているのか、その情報がどのように処理され得るのか、どの規制上の義務が適用されるのか、そしてどこに人間による監督が必要であり続けるのかを理解すべきである。これは、組織が寄付者、受益者、従業員、あるいは脆弱なコミュニティに関わる機密情報を扱う場合、とりわけ重要になる。
問題はデータ保護にとどまらない。AIが生成する分析は、どのプログラムに注目が集まるか、リスクがどのように評価されるか、資源がどこに向けられるか、組織が支援対象者とどのようにコミュニケーションを取るかに、ますます影響を及ぼし得る。テクノロジーがそこに寄与する場合でも、これらの意思決定は組織のリーダーシップの責任であり続ける。
したがって効率性は、判断を置き換えるのではなく、判断を強化するものでなければならない。
規制が環境を形づくる
規制機関は、組織がAIをどのように利用するかを決定するうえで、ますます重要な役割を担うことになる。
国境を越えて活動する非営利組織にとって、これは特に重要である。管轄区域ごとに、データ保護、透明性、自動化された意思決定、説明責任、機微な分野におけるAIの利用に関する要件が異なる可能性がある。これはコンプライアンス上の課題であると同時に、機会でもある。
明確な規制は、責任ある導入に関して組織により大きな確実性をもたらし得る。一方で、枠組みが分断されていたり不明確だったりすれば、複数の管轄区域で使われるテクノロジーにどの基準を適用すべきかを国際的な非営利組織が判断することは難しくなる。
したがって、非営利組織の理事会や経営陣は、AIガバナンスを単なる情報技術部門の責任以上のものとして扱うべきである。それは、組織ガバナンス、リスク管理、組織としての説明責任の問題になりつつある。
新たな開発格差
AIは開発格差のあり方も変える可能性がある。将来の差異は、AIにアクセスできる組織や国と、そうでない組織や国との間に単純に生じるものではないかもしれない。むしろ、これらの技術を統治できる者と、単に消費するだけの者との間に、ますます生じる可能性がある。
非営利組織にとって、アクセスだけでは十分ではない。組織には、自らが使うシステムを理解できる人材、機密情報を管理する方針、AIの支援を受けた重要な意思決定を検証する手続き、そしてテクノロジーがプログラムの成果に影響を与える場合の明確な説明責任が必要である。
政府、非営利のパートナー、国家機関と、政府間開発機関である世界開発計画基金を通じて協働してきた私の経験から、デジタルトランスフォーメーションは、単なる近代化ではなく、組織能力の問題として捉えられることが増えていると感じる。同じ原則は非営利組織にも当てはまる。テクノロジーが持続可能な価値を生むのは、組織がそれを責任ある形で活用するためのガバナンス能力を備えている場合である。
ここに、非営利組織のリーダーが重要な違いを生み出せる余地がある。
依存の前にガバナンスを
非営利組織は、組織としての独立性を保つために、自前のAIシステムを構築する必要はない。しかし、何を導入しているのかを理解する必要はある。
理事会と経営陣は、データ利用、人間による監督、説明責任、そして完全に自動化システムに委ねてはならない意思決定の種類に関して、明確な原則を定めるべきである。国際的に活動する組織は、規制の違いが管轄区域ごとの自らの責任にどのような影響を及ぼすのかも理解すべきである。
最も重要なのは、リーダーが技術的支援と組織としての権限との明確な区別を保つことである。AIはパターンを見つけ、情報を処理し、意思決定を支援できる。しかし、組織のミッションに対する責任を引き受けることはできない。
その責任は人間に残る。
組織的独立性の未来
AI時代は、政府に主権の再考を迫るだろう。しかし同時に、非営利組織のリーダーにも組織的独立性の再考を迫る。こうした変革に最も適した立場にある組織は、必ずしもAIを最も速く導入している組織ではないかもしれない。むしろ、テクノロジーがどこで主導し、どこで支援し、どこで人間の判断が決定的であり続けなければならないかを理解している組織かもしれない。
AIは今後もさらに高性能になっていくだろう。非営利組織のリーダーシップの責任は、それにあわせて組織ガバナンスを発展させることである。
したがって、決定的な問いは、AIを誰が支配するのかということだけではない。非営利組織のリーダーにとっての問いは、自らの組織がAIを使って独立した判断を強化するのか、それとも、最終的に自らが説明責任を負う意思決定を、徐々にテクノロジーに形づくらせていくのかである。
AIは外部委託できる。組織としての責任は外部委託できない。
