(2)AI活用におけるセキュリティリスクと対応の遅れ

 AIに関連するインシデント(事故や不祥事)は2024年に急増し、記録上最多の233件(前年比56%増)に達したといいます。にもかかわらず、「企業においては責任あるAI(RAI)リスクを認識していても、具体的な対応が追いついていない」というギャップがあると指摘されています。部署や職級ごとの知識アクセス権管理や情報漏洩防止といったセキュリティ対策の重要性が浮き彫りになっており、RAG導入時にこの点を軽視すると、情報流出リスクが高まります。同レポートでは、AI導入に伴うセキュリティ上の課題とその深刻さをデータに基づいて理解することができます。知識レコード(チャンク)単位のアクセス権制御を備えたRAG製品を使うと共に、実際にアクセス権を設定・付与する際の適切な社内ルールの必要性が想起されます。