生成AI環境の未知なる脅威を可視化する
AIプロンプト診断
ChatGPT API等の生成AIを組み込んだWebアプリケーションに対し、プロンプトインジェクション・プロンプトリークなどAI特有の脆弱性を診断するサービスです。OWASP LLM Top 10に基づく8つの診断カテゴリで、AI環境のセキュリティリスクを網羅的に可視化し、実践的な対策を提供します。
ChatGPT API等の生成AIを組み込んだWebアプリケーションに対し、プロンプトインジェクション・プロンプトリークなどAI特有の脆弱性を診断するサービスです。OWASP LLM Top 10に基づく8つの診断カテゴリで、AI環境のセキュリティリスクを網羅的に可視化し、実践的な対策を提供します。
グローバル標準であるOWASP LLM Top 10の脅威分類に基づき、GSX独自の診断アプローチを統合した8つの診断カテゴリにより、生成AI環境の脆弱性を構造化して可視化します。
診断対象外:SaaS直接利用
- ChatGPT等の公式サービスを直接利用
- プロンプト制御、システム指示、ログ管理は事業者側が担保
- 自社システムとしての診断対象領域なし
診断対象:API組み込み開発
- ChatGPT API等を利用し、自社のWebアプリに組み込むケース
- プロンプト設計・入力制御・データ管理が貴社の責任範囲となる
- 独自のセキュリティ対策と診断が必須
-
OWASP LLM Top 10準拠の
網羅的な診断- グローバル標準(OWASP)に基づく8つの診断カテゴリで、AI特有のリスクを漏れなく検査
- プロンプトインジェクション、プロンプトリーク、データポイズニングなど最新の攻撃手法に対応
-
経営視点と技術視点の
両面からの報告- 4段階の総合評価で経営層が現在のリスクレベルを直感的に把握
- 問題の原因と具体的対策を記載し、開発現場が即座に修正アクションへ移行可能
-
多層防御フレームワークに
基づく包括的対策- 脆弱性の特定に加え、システム全体でのDefense in Depthの確立を支援
- AIモデルのセキュリティ、権限管理、アクセスコントロール、データセキュリティまで一貫した対策を提案
コア診断項目(1)AIモデルへの直接的な攻撃ベクトル
1. プロンプトインジェクション
悪意のある問合せにより、モデルやシステム情報を漏えいさせる攻撃。学習データや機微情報が引き出されるリスクがあります。
2. プロンプトリーク
制御フィルタリングを回避し、事前に設定された「システムプロンプト(内部仕様や制約条件)」を漏えいさせる攻撃です。
4. データポイズニング
学習データに悪意のあるデータを挿入し、AIの予測結果を改ざんする攻撃。応答精度の低下や機密漏洩を引き起こします。
コア診断項目(2)システムおよびデータへの波及的脅威
3. 問題のある応答 / 8. アプリケーション脆弱性
AI応答の不適切な処理により、XSS等のWeb脆弱性が顕在化するリスク。悪意コードがWebサーバに侵害をもたらす可能性があります。
5. サービス拒否(DoS)
過剰な負荷によるサービス停止、および従量課金APIにおける想定外の高額請求リスクを検査します。
6. 問題のあるサードパーティの利用
信頼性の低い外部モデルに依存することによる、予期せぬ振る舞いや脆弱性のリスクを評価します。
7. 機微データ漏洩
本来の利用者権限を超えた文字列送信により、バックエンドの機密情報が漏えいするリスクを検査します。
OWASP LLM Top 10とGSX診断カテゴリの対応表
| OWASP LLM Top 10 | GSX診断カテゴリ | 主なリスク |
|---|---|---|
| LLM01: プロンプトインジェクション | 1. プロンプトインジェクション | モデル・システム情報の漏えい |
| LLM02: 機密情報の漏洩 | 2. プロンプトリーク | システムプロンプトの流出 |
| LLM03: サプライチェーンの脆弱性 | 3. 問題のある応答 | 不正な応答・Web脆弱性の誘発 |
| LLM04 / LLM08: データ・ベクトルの汚染 | 4. データポイズニング | 予測結果の改ざん・精度低下 |
| LLM05: 不適切な出力処理 | 5. サービス拒否 / 6. サードパーティリスク | XSS・コード実行・外部依存 |
| LLM07: システムプロンプトの漏洩 | 7. 機微データ漏えい | バックエンド機密情報の流出 |
| LLM10: 無制限のリソース消費 | 8. アプリケーションの脆弱性 | サービス停止・高額課金 |
AIモデルのセキュリティ
利用するAIモデル自体に内在する弱点(本質的リスク)の定期的な評価。
権限管理
Need to knowの原則に基づいた厳格なアクセス権限設定。
脆弱性管理
サービスおよび関連コンポーネントの継続的な脆弱性評価。
アクセスコントロール
サービスへのアクセス制御と経路の固定。
データセキュリティ
データの転送と保存時の暗号化・保護。
01|お見積り・ご発注
診断対象のAIアプリケーションの構成(利用API、プロンプト設計、ユーザー入力経路等)をヒアリングし、お見積書を作成します。診断範囲や期間を決定の上、ご発注いただきます。
02|事前調整・診断準備
診断内容確認書を作成し、対象システムへのアクセス環境や必要な認証情報を確認します。テスト環境の利用可否など細部の調整を行います。
03|診断実施
OWASP LLM Top 10に基づく8つの診断カテゴリで、プロンプトインジェクション、プロンプトリーク、データポイズニング等のAI特有の脆弱性を網羅的に検査します。
04|速報
診断中に緊急度の高い脆弱性が発見された場合、速報としてご連絡します。※ご要望の場合のみ。ご契約時にご依頼ください。
05|結果分析/報告書作成
診断結果を報告書として取りまとめ、納品いたします。総合評価と脆弱性分布による経営リスクの可視化、および各脆弱性の詳細な対策提示を含みます。
06|報告会
専門エンジニアが診断結果を説明する報告会を開催します。具体的な修正方法や優先順位について、技術者向け・経営層向けの双方の視点で解説します。
07|再診断
脆弱性が検出された箇所をお客様側で改修された後、同様の脆弱性が解消されているかを再度診断します。
経営リスクの可視化
「緊急」「要対応」「良」「優良」の4段階で、システム全体の危険度と対応の優先順位を明示します。
- 総合評価による直感的なリスク把握
- 脆弱性の危険度(高・中・低)分布をグラフ化
- 定量的なリスク状況の可視化
エンジニア向け実践的対策
各脆弱性について、AIの挙動操作が可能な入力条件と、その根本原因を特定し、具体的な解決策を提示します。
- 問題とその原因の詳細な解説
- プロンプト構造の見直し提案
- 入力に対する検証・無害化処理の推奨
- 機密情報が出力されない設計手法の適用

