資料の紹介
AIの導入が拡大したことで、組織や企業が知らず知らずのうちに、従来のセキュリティツールで対応できないような「前例なきリスク」にさらされるという状況が生まれている。特に、大規模なデータセットで学習し、あたかも人間のようなアウトプットを生成する大規模言語モデル（LLM）をビジネス環境で活用する場合は、両刃の剣となるので要注意だ。
中身がブラックボックスになっているLLMの出力を予測・制御することは困難であり、例えば、学習データに含まれる機密情報の漏洩、悪意あるプロンプトへの予期せぬ形での応答、規制などに違反するコンテンツの生成、といったリスクがある。プロンプトインジェクションなどの手口で機密データが抽出されたり、モデルの挙動がコントロールされたりする可能性すらある。
本資料では、AI活用の現状とセキュリティへの影響を概観し、セキュリティ担当者が知っておくべき事柄として、データ保護におけるAI特有のリスクと、AI活用の全プロセスで情報を保護するための新たなフレームワークの必要性を解説。さらに、その導入に役立つ4つのステップと、AIモデルの検出・監視・可視化などが可能なプラットフォーム製品も紹介する。
