企業・組織の生成AI活用、情報漏えいリスクが懸念事項に
情報漏えい対策といえば、従来はランサムウエアなどの外部脅威を念頭に置いたものが主に想定されてきた。だが近年、無視できないほど高まっているのが、内部の要因によって起こる情報漏えいのリスクだ。
背景には、コロナ禍を経てワークスタイルが変わり、社員の情報持ち出しへの意識が多様化したこともあるが、より注目すべき要因といえるのが「生成AI」の普及である。現在、生成AIは大手から中堅・中小企業まで、あらゆる組織で活用が広がっている。そうした中、ユーザーが機密情報を生成AIに入力してしまい、外部に流出させてしまうリスクや、生成AIが組織のリソースから意図せず機密情報を参照してしまうリスク、それをさらに意図せずまたは悪意をもって漏えいしてしまうリスクが高まっている。
特に、オープンな生成AIサービスに機密情報を入力すると、再学習されて公開されてしまう可能性がある。また、仮に再学習しないことを明言している生成AIサービスでも、生成した情報自体をユーザーが適切に扱えなければリスクは残る。つまり、生成結果に機密情報が含まれていることに気付かず、外部に公開してしまえば、それは重大なリスク要因になるのである。
加えて現在は、ユーザーの指示に従って自律的に情報を集め、業務を遂行する「AIエージェント」が注目を集めている。これが普及すれば情報の流通はさらに加速するだろう。企業・組織がAI活用を進める際には、同時にセキュリティー対策も考える必要がある。
求められるのは「データ」そのものに着目した対策である。データに対するガバナンス、コンプライアンスをどのように確保するべきか。求められる「データセキュリティー」の勘所と実装方法を、次ページで紹介する。