生成AI環境の未知なる脅威を可視化する

AIプロンプト診断

ChatGPT API等の生成AIを組み込んだWebアプリケーションに対し、プロンプトインジェクション・プロンプトリークなどAI特有の脆弱性を診断するサービスです。OWASP LLM Top 10に基づく8つの診断カテゴリで、AI環境のセキュリティリスクを網羅的に可視化し、実践的な対策を提供します。

ChatGPT API等の生成AIを組み込んだWebアプリケーションに対し、プロンプトインジェクション・プロンプトリークなどAI特有の脆弱性を診断するサービスです。OWASP LLM Top 10に基づく8つの診断カテゴリで、AI環境のセキュリティリスクを網羅的に可視化し、実践的な対策を提供します。

お問い合わせはこちら
AIプロンプト診断とは、ChatGPT等の生成AI APIを自社のWebアプリケーションに組み込んで活用している企業向けのセキュリティ診断サービスです。従来のWebアプリケーションには存在しなかった、AI特有の新たな攻撃ベクトルに対応し、LLMアプリケーションを取り巻く脅威ランドスケープを網羅的に検査します。

グローバル標準であるOWASP LLM Top 10の脅威分類に基づき、GSX独自の診断アプローチを統合した8つの診断カテゴリにより、生成AI環境の脆弱性を構造化して可視化します。
生成AIの活用形態によって、セキュリティ対策の責任範囲は大きく異なります。GSXのAIプロンプト診断は、自社の責任範囲でプロンプト設計・入力制御・データ管理を行うAPI組み込み開発を診断対象としています。

診断対象外:SaaS直接利用

  • ChatGPT等の公式サービスを直接利用
  • プロンプト制御、システム指示、ログ管理は事業者側が担保
  • 自社システムとしての診断対象領域なし

診断対象:API組み込み開発

  • ChatGPT API等を利用し、自社のWebアプリに組み込むケース
  • プロンプト設計・入力制御・データ管理が貴社の責任範囲となる
  • 独自のセキュリティ対策と診断が必須
GSXのAIプロンプト診断は、OWASP LLM Top 10に基づくグローバル標準の診断アプローチと、20年以上の脆弱性診断実績に裏打ちされた実践的な検査手法を融合したサービスです。
  • OWASP LLM Top 10準拠

    OWASP LLM Top 10準拠の
    網羅的な診断

    • グローバル標準(OWASP)に基づく8つの診断カテゴリで、AI特有のリスクを漏れなく検査
    • プロンプトインジェクション、プロンプトリーク、データポイズニングなど最新の攻撃手法に対応

  • 経営視点と技術視点の報告

    経営視点と技術視点の
    両面からの報告

    • 4段階の総合評価で経営層が現在のリスクレベルを直感的に把握
    • 問題の原因と具体的対策を記載し、開発現場が即座に修正アクションへ移行可能

  • 多層防御フレームワーク

    多層防御フレームワークに
    基づく包括的対策

    • 脆弱性の特定に加え、システム全体でのDefense in Depthの確立を支援
    • AIモデルのセキュリティ、権限管理、アクセスコントロール、データセキュリティまで一貫した対策を提案

従来のWebアプリケーションには存在しなかった、AI特有の新たな攻撃ベクトルが出現しています。GSXのAIプロンプト診断では、OWASP LLM Top 10の脅威分類と統合した以下の8項目を診断します。

コア診断項目(1)AIモデルへの直接的な攻撃ベクトル

OWASP: LLM01

1. プロンプトインジェクション

悪意のある問合せにより、モデルやシステム情報を漏えいさせる攻撃。学習データや機微情報が引き出されるリスクがあります。

OWASP: LLM02

2. プロンプトリーク

制御フィルタリングを回避し、事前に設定された「システムプロンプト(内部仕様や制約条件)」を漏えいさせる攻撃です。

OWASP: LLM04 / LLM08

4. データポイズニング

学習データに悪意のあるデータを挿入し、AIの予測結果を改ざんする攻撃。応答精度の低下や機密漏洩を引き起こします。

コア診断項目(2)システムおよびデータへの波及的脅威

OWASP: LLM03 / LLM05

3. 問題のある応答 / 8. アプリケーション脆弱性

AI応答の不適切な処理により、XSS等のWeb脆弱性が顕在化するリスク。悪意コードがWebサーバに侵害をもたらす可能性があります。

OWASP: LLM10

5. サービス拒否(DoS)

過剰な負荷によるサービス停止、および従量課金APIにおける想定外の高額請求リスクを検査します。

OWASP: LLM05

6. 問題のあるサードパーティの利用

信頼性の低い外部モデルに依存することによる、予期せぬ振る舞いや脆弱性のリスクを評価します。

OWASP: LLM07

7. 機微データ漏洩

本来の利用者権限を超えた文字列送信により、バックエンドの機密情報が漏えいするリスクを検査します。

OWASP LLM Top 10とGSX診断カテゴリの対応表

OWASP LLM Top 10 GSX診断カテゴリ 主なリスク
LLM01: プロンプトインジェクション 1. プロンプトインジェクション モデル・システム情報の漏えい
LLM02: 機密情報の漏洩 2. プロンプトリーク システムプロンプトの流出
LLM03: サプライチェーンの脆弱性 3. 問題のある応答 不正な応答・Web脆弱性の誘発
LLM04 / LLM08: データ・ベクトルの汚染 4. データポイズニング 予測結果の改ざん・精度低下
LLM05: 不適切な出力処理 5. サービス拒否 / 6. サードパーティリスク XSS・コード実行・外部依存
LLM07: システムプロンプトの漏洩 7. 機微データ漏えい バックエンド機密情報の流出
LLM10: 無制限のリソース消費 8. アプリケーションの脆弱性 サービス停止・高額課金
脆弱性の特定に加え、システム全体での包括的なセキュリティ対策(Defense in Depth)の確立が不可欠です。GSXのAIプロンプト診断では、以下の5つのレイヤーで多層的な防御を評価・提案します。
01

AIモデルのセキュリティ

利用するAIモデル自体に内在する弱点(本質的リスク)の定期的な評価。

02

権限管理

Need to knowの原則に基づいた厳格なアクセス権限設定。

03

脆弱性管理

サービスおよび関連コンポーネントの継続的な脆弱性評価。

04

アクセスコントロール

サービスへのアクセス制御と経路の固定。

05

データセキュリティ

データの転送と保存時の暗号化・保護。

01|お見積り・ご発注

診断対象のAIアプリケーションの構成(利用API、プロンプト設計、ユーザー入力経路等)をヒアリングし、お見積書を作成します。診断範囲や期間を決定の上、ご発注いただきます。

02|事前調整・診断準備

診断内容確認書を作成し、対象システムへのアクセス環境や必要な認証情報を確認します。テスト環境の利用可否など細部の調整を行います。

03|診断実施

OWASP LLM Top 10に基づく8つの診断カテゴリで、プロンプトインジェクション、プロンプトリーク、データポイズニング等のAI特有の脆弱性を網羅的に検査します。

04|速報

診断中に緊急度の高い脆弱性が発見された場合、速報としてご連絡します。※ご要望の場合のみ。ご契約時にご依頼ください。

05|結果分析/報告書作成

診断結果を報告書として取りまとめ、納品いたします。総合評価と脆弱性分布による経営リスクの可視化、および各脆弱性の詳細な対策提示を含みます。

06|報告会

専門エンジニアが診断結果を説明する報告会を開催します。具体的な修正方法や優先順位について、技術者向け・経営層向けの双方の視点で解説します。

07|再診断

脆弱性が検出された箇所をお客様側で改修された後、同様の脆弱性が解消されているかを再度診断します。

診断結果は報告書を作成して納品いたします。経営層やシステム管理者が現在のリスクレベルを直感的に把握できるサマリーと、開発現場が即座に修正アクションへ移れる実践的な対策提示を提供します。

経営リスクの可視化

「緊急」「要対応」「良」「優良」の4段階で、システム全体の危険度と対応の優先順位を明示します。

  • 総合評価による直感的なリスク把握
  • 脆弱性の危険度(高・中・低)分布をグラフ化
  • 定量的なリスク状況の可視化

エンジニア向け実践的対策

各脆弱性について、AIの挙動操作が可能な入力条件と、その根本原因を特定し、具体的な解決策を提示します。

  • 問題とその原因の詳細な解説
  • プロンプト構造の見直し提案
  • 入力に対する検証・無害化処理の推奨
  • 機密情報が出力されない設計手法の適用
従来のWebアプリケーションには存在しなかった、AI特有の新たな攻撃ベクトルが出現しています。生成AIをビジネスに活用する企業が増加する中、これらのリスクを正しく理解し、適切な対策を講じることが求められています。

プロンプトインジェクション

プロンプトインジェクションとは、AIチャットボットや生成AIアプリケーションに対して、悪意のある入力(プロンプト)を送信することで、AIの挙動を意図的に操作する攻撃手法です。攻撃者はシステムプロンプトとユーザー入力の分離が不十分な点を突き、AIに対して本来許可されていない操作を実行させます。これにより、学習データや機微情報の漏えい、不適切なコンテンツの生成、さらにはバックエンドシステムへの不正アクセスにつながる可能性があります。

プロンプトリーク

プロンプトリークとは、AIアプリケーションに事前に設定されたシステムプロンプト(内部仕様や制約条件)を、外部から巧妙な問い合わせによって漏えいさせる攻撃です。システムプロンプトには、サービスの内部ロジック、制約条件、使用しているデータソースなどの機密情報が含まれている場合があります。これが流出すると、攻撃者がシステムの仕組みを理解した上でさらに高度な攻撃を仕掛ける足がかりとなります。

データポイズニング

データポイズニングとは、AIの学習データや参照データに悪意のあるデータを混入させ、AIの予測結果や応答内容を改ざんする攻撃です。RAG(Retrieval-Augmented Generation)を利用するアプリケーションでは、外部データソースの汚染がAIの応答品質を直接低下させます。応答精度の劣化、誤った情報の生成、さらには機密データの意図しない出力につながる重大なリスクです。

サービス拒否と課金リスク

生成AI APIを利用するアプリケーションでは、従量課金モデルが一般的です。攻撃者が大量のリクエストを送信したり、意図的に大量のトークンを消費する入力を行うことで、サービスの応答性能を著しく低下させるとともに、想定外の高額な課金が発生するリスクがあります。また、過剰な負荷によるサービス停止は、ビジネスの継続性を直接脅かす脅威となります。

機密データの漏洩

本来の利用者権限を超えた巧妙なプロンプトにより、バックエンドに保存されている顧客データ、社内機密情報、APIキーなどの機密情報がAIの応答を通じて外部に漏えいするリスクがあります。AIモデルのアクセス権限設定が不十分な場合、ユーザーが本来アクセスできないはずの情報を引き出せてしまう可能性があり、個人情報保護法やGDPRなどの法規制違反にもつながる重大な問題です。
CISO講座
セキュリティ担当者必見!これから始める脆弱性対策ガイド
お問い合わせはこちら

お問い合わせ

セキュリティに関するどのようなご支援をご希望ですか?
ご質問・ご相談・お見積りなど、お気軽にお問い合わせください。

お電話での受付時間:平日8:30〜21:00
メール、フォームは24時間受け付けております

■AIプロンプト診断とは?

AIプロンプト診断とは、ChatGPT等の生成AI APIを組み込んだWebアプリケーションに対し、プロンプトインジェクションやプロンプトリークなどAI特有のセキュリティ脆弱性を検出・評価するサービスです。
OWASP LLM Top 10に基づいた診断項目で、AI環境における未知の脅威を可視化します。

■AIプロンプト診断の対象は?

ChatGPT API等の生成AI APIを利用し、自社のWebアプリケーションに組み込んでいるケースが診断対象です。
プロンプト設計・入力制御・データ管理が自社の責任範囲となるAPI組み込み開発が対象であり、ChatGPT等のSaaSを直接利用するケースは対象外です。

■従来のWebアプリケーション診断との違いは?

従来のWebアプリケーション診断はSQLインジェクションやクロスサイトスクリプティングなどWeb特有の脆弱性を対象としますが、AIプロンプト診断はプロンプトインジェクション、プロンプトリーク、データポイズニングなど生成AI特有の攻撃ベクトルに特化した診断を行います。
両方を組み合わせることで、AI搭載Webアプリケーションの包括的なセキュリティ対策が可能になります。

■診断結果はどのように報告されますか?

診断結果は報告書として納品します。「緊急」「要対応」「良」「優良」の4段階の総合評価による経営リスクの可視化と、各脆弱性の問題・原因・具体的対策を記載したエンジニア向けの実践的な対策提示の2つの観点で報告します。