生成AIはリスクコントロールが不可欠
生成AIの期待がさらに高まっている。最近は単なる業務効率化にとどまらず、ビジネスや社会に大きなインパクトをもたらす事例も増えてきた。その一方、生成AI特有のリスクがあることも事実だ。これらのリスクをコントロールしなければ、成果の創出は見込めない。生成AIのリスクは大きく2つに分けられる。1つが「AI倫理に関するリスク」。もう1つが、生成AIアプリの脆弱性を突かれる「他者から侵害されるリスク」である。
AI倫理に関するリスクの代表例が、生成AIがもっともらしい嘘をつくハルシネーションのリスクだ。AIが答えた情報をうっかり鵜呑みにすると大変なことになる。笑って済ませられる嘘ならいいが、差別的な表現や誹謗中傷、重要な判断に影響を与える内容を吐き出されたら、只事では済まない。情報をしっかり管理しないと、知的財産やデータプライバシーを侵害してしまうこともある。
他者から侵害されるリスクの代表例が、プロンプトインジェクションだ。システム側が設定するマスタープロンプトを不正に改ざんしたり、悪意のあるプロンプトを仕込んだりして、本来は開示しない個人情報や重要情報を引き出す。モデルに負荷の大きいリクエストを大量に送信して混乱させるDoS攻撃のリスクもある。
こうしたリスクに対し、企業・組織は適切な対策を行う必要がある。しかし、生成AIと一言に言っても、パブリック型やSaaS型を利用したり、自社構築したりするケースなど様々な形態がある。生成AIは新しい技術なので、どこから着手すればよいか悩まれることもあるのではないだろうか。どうやってリスクを把握し、対処すべきか。次頁以降で、生成AIのリスクとの向き合い方、その対処法を考察したい。