改めて考えたい「基本中のキホン」
話題性の高いもの、特にChatGPTのようにこれまで人類が経験したことのない体験を得られるテクノロジーであれば、より詳しい情報を求めたりすぐにでも試したりしてみたくなるのは人間として当然の感情だ。生成型AIのような利便性の高い技術は、我々人類の生活や企業活動をより良くする可能性があり、メリットのあるものは積極的に活用する以外に選択肢はないだろう。しかし、社会的に関心が高く注目や話題を集めるものは、必ず犯罪者によって悪用される。我々人間の心理的な隙やミスにつけ込む手口はサイバー犯罪の中でも最も効果的なものの1つだ。個人利用者がクレジットカード情報を騙し取られたり、企業や組織が機密情報を窃取されたり業務停止に追い込まれるといった深刻な被害を受けていることから、被害を未然に防ぐためにも改めて最新の犯罪の手口を知ってもらいたい。
また新しい技術をよく理解せずに安易に利用しようとすれば、必ずリスクや危険が存在する。社内独自の知的財産などの機密情報が生成型AIのトレーニングや改良に利用されれば、同様のテーマに関心を持つ利用者への回答として使われる可能性が出てくる。機密情報が生成型AIによって世の中で「標準化」されてしまえば、組織の企業競争力は大きく損なわれる危険性がある。これにより販売業績やマーケットシェアなどビジネスの面でさまざまな影響を受ける可能性もゼロではない。
生成型AIの利用にあたってのポイントは、データの安全性の責任は利用者にあるということだ。すでに多くの企業で活用されているクラウドサービスと考え方は本質的には変わらないのだ。生成型AIが利用者のデータをどうトレーニングや改良に使うかやサービス基盤の安全性は、各サービスによって異なってくることも理解するべきだろう。どんなに興味深いテクノロジーでも「メリットとデメリット」「価値とリスク」を理解した上で利用の是非、用途、範囲を判断することだ。企業における機密情報の価値や重みを従業員1人1人が改めて認識する必要性はいうまでもない。
連載：「あの」インシデントから紐解く企業セキュリティの本質
過去記事はこちら>>
