AI

2023.11.29 13:30

米日などが合意したAI安全保障ガイドライン、セキュア・バイ・デザインが基本原則

Shutterstock.com

英米が共同で策定したAIの安全性に関する合意に、日本を含む18カ国が署名した。その基本原則はセキュア・バイ・デザイン(設計段階から安全)であるべきということだ。

英国サイバーセキュリティセンター(NCSC、National Cyber Security Centre)が主導し、米国サイバーセキュリティ・社会基盤安全保障庁(CISA、Cybersecurity and Infrastructure Security Agency)と共同で策定した「安全なAIシステム開発のためのガイドライン(Guidelines for Secure AI System Development)」は、この種のものとしては初のグローバルな合意として注目されている。

これらは主に、1つの組織によってホストされるモデルを使用したり、外部アプリケーションプログラミングインターフェースを使用したりするAIシステムの提供者を対象としている。開発者が、AIシステムの安全性を根本的な前提条件として組み込み、開発プロセスの最初から最後までそれを不可欠なものとすることを後押しすることが目的だ。

米国国土安全保障省(DHS)のアレハンドロ・マヨルカス長官は「CISA、NCSC、その他の国際パートナーが本日共同で発行したガイドラインは、サイバーセキュリティを核としてAIを設計、開発、展開、運用するための常識的な道筋を提供します」と述べた。

そして「このガイドラインは『セキュア・バイ・デザイン』の原則を統合することで、システムの設計と開発の各段階で顧客を保護し、開発者が投資しなければならない歴史的な合意を示すものです」と付け加えた。

ガイドラインのセキュア・デザインには、リスクと脅威モデリングの理解、システムとモデル・デザインに関するトレードオフの検討が含まれる。また開発ガイドラインには、サプライチェーンのセキュリティ、文書化、資産および技術的負債の管理が含まれている。
次ページ > まずは原則から、詳細はこれから

翻訳=酒匂寛

タグ:

ForbesBrandVoice

人気記事