資料の紹介
利用者などから寄せられる問い合わせや要望への対応は、企業・組織がビジネスを維持・拡大するために欠かせない。近年は生成AIで問い合わせ対応を効率化する動きも盛んだが、生成AIの導入実態に関する調査では、回答者の約9割が生成AIに満足している一方で、8割弱が何らかの課題を感じているという。
課題として多く挙がっているのは、データの保護、セキュリティの確保、ハルシネーション対策だ。生成AIは訓練に膨大なデータを使うため、データの保護や適正利用のための体制作りが追いつかず、サイバー攻撃や内部不正による流出のリスクが高まりやすい。また、でっち上げのような回答をする「ハルシネーション」は、生成AIを使う以上避けられないリスクだ。
本資料では、問い合わせ対応業務における生成AI活用の実態調査や、生成AI活用の失敗事例を引用しつつ、深刻なトラブルの発生を防いで生成AI活用を成功させるためのヒントをわかりやすく解説する。サムスンでは、ソースコードをエンジニアがChatGPTにアップロードしたことで機密情報が流出。大阪府のAIチャットサービスは、大阪・関西万博について「中止になってしもた」など、珍回答を連発し話題になった。
