生成AI活用システム リスク診断

生成AI活用システム リスク診断は、ラックが提供する対話型AIシステム向けのセキュリティ診断サービスです。生成AIを組み込んだWebシステムに対し、攻撃者の視点からAI特有のセキュリティ問題や悪用が想定されるリスクを特定します。プロンプトインジェクション、機密情報や内部プロンプトの漏洩、不適切コンテンツ生成、API呼び出し制限の回避などを評価し、改善点をレポートします。自社サービスにチャットボットや生成AI機能を組み込む企業が、公開前後の安全性確認や第三者診断に活用できます。