DX推進 × セキュリティ

Citadel Lens

株式会社Citadel AI

Citadel Lensは、AIシステムのリスクを評価・モニタリングし、パフォーマンスを最大化するAIガバナンスツールです。機械学習モデルや生成AIを外部から検証し、性能劣化、データドリフト、公平性、説明可能性、安全性、セキュリティなどの観点で状態を可視化します。開発部門向けの技術評価だけでなく、リスク管理部門向けのガバナンスレポートにも活用でき、金融、医療、製造、公共など、AIの説明責任と継続監視が重要な組織に...

セキュリティ機械学習

生成AI活用システム リスク診断

株式会社ラック

生成AI活用システム リスク診断は、ラックが提供する対話型AIシステム向けのセキュリティ診断サービスです。生成AIを組み込んだWebシステムに対し、攻撃者の視点からAI特有のセキュリティ問題や悪用が想定されるリスクを特定します。プロンプトインジェクション、機密情報や内部プロンプトの漏洩、不適切コンテンツ生成、API呼び出し制限の回避などを評価し、改善点をレポートします。自社サービスにチャットボットや生成AI機能...

セキュリティ

AI Red Team

NRIセキュアテクノロジーズ株式会社

AI Red Teamは、NRIセキュアが提供するAIシステム向けのセキュリティ診断サービスです。生成AIやLLMを利用するアプリケーションに対し、プロンプトインジェクション、プロンプトリーキング、ジェイルブレイク、情報漏洩、権限昇格、外部ツール悪用などのリスクを評価します。AI単体へのプロンプト脆弱性診断と、既存システムや外部APIとの連携を含むシステム統合診断を組み合わせ、AI特有の脆弱性を包括的に確認できる点が特徴...

セキュリティ

TrendAI Vision One AI Application Security

トレンドマイクロ株式会社

TrendAI Vision One AI Application Securityは、企業が開発・運用するAIアプリケーションを保護するためのセキュリティ機能群です。AI Scannerにより本番提供前のモデルやアプリケーションのリスクを検査し、AI Guardによりプロンプトインジェクション、情報漏洩、不適切な応答などを実行時にフィルタリングします。生成AIやAIエージェントを業務システムへ組み込む際に、開発段階から運用段階まで一貫してリスクを把握し、ポ...

セキュリティ

Prompt Security

SentinelOne, Inc.

Prompt Securityは、SentinelOneが提供する生成AI・AIエージェント利用の可視化と制御を行うAIセキュリティソリューションです。従業員が利用するChatGPT、Gemini、Claude、Copilot、Cursorなどの生成AIツールや、社内LLMアプリ、API連携を監視し、プロンプトや応答の文脈を含めてリスクを把握します。プロンプトインジェクション、機密情報や個人情報の漏えい、シャドーAI、ポリシー違反をリアルタイムに検知・制御でき、生成A...

セキュリティ