AI活用におけるセキュリティリスクを専門家が検証
GMOサイバーセキュリティ byイエラエは、2026年4月27日に「AIエージェントペネトレーションテスト」の提供を開始したと発表しました。このサービスは、企業内で利用されるAIエージェントやチャットボット、RAG（外部データを検索して回答生成に活用する技術）などを対象としています。
近年、業務効率化を目的としたAIの導入が加速する一方で、機密情報の漏えいや、AIがサイバー攻撃の踏み台として悪用されるリスクが懸念されています。本サービスでは、ホワイトハッカーが実際の攻撃手法を用いてシステムの脆弱性を検証し、対策を提案するとのことです。
Ms.ガジェット
具体的な攻撃シナリオに基づいた検証を実施
本サービスでは、利用環境をヒアリングした上でオリジナルのテストシナリオを作成します。実際の業務環境を想定し、以下のようなリスクを重点的に検証するとしています。
- 意図しない情報漏えい：悪意のある指示により社外へデータが流出するリスク
- 権限逸脱：AIに付与された権限が過剰で、本来アクセスできない情報に触れるリスク
- 不正操作と横展開：AIを悪用して外部システムやワークフローへ影響を及ぼすリスク
特に、LLM（大規模言語モデル）に対するプロンプトインジェクション（悪意ある指示を混入させる攻撃）への耐性検証も行われます。検証にあたっては、AIセーフティ・インスティテュートが発行する「AIセーフティに関するレッドチーミング手法ガイド（第1.10版）」に基づいた評価も可能とのことです。
Ms.ガジェット対象となるAIシステムと今後の展開
調査対象として想定されているのは、Microsoft 365 CopilotやAzure OpenAIといったエンタープライズ向けのAIサービスのほか、社内ナレッジ検索を行うRAGシステムやチャットボット、各種業務ツールと連携するAI機能などとなっています。
同社は、従来のLLM単体の評価では捉えきれないリスクに対応し、企業が安全かつ円滑にAIを活用できるよう支援するとしています。今後も最先端の脅威に対応するセキュリティサービスの提供を通じて、デジタル社会の安全に貢献していく方針とのことです。
Ms.ガジェット
GMOサイバーセキュリティ byイエラエ、AIエージェントの攻撃耐性を検証する新サービスを提供開始
最後までお読みいただきありがとうございました！
- 本記事の評価は当サイト独自のものです。
- 特段の表示が無い限り、商品の価格や情報などは記事執筆時点での情報です。
- この情報が誤っていても当サイトでは一切の責任を負いかねますのでご了承ください。
- 当サイトに記載された商品・サービス名は各社の商標です。
- 本記事で使用している画像は、メディアユーザーとしてPR TIMESより提供されたプレスリリース素材を利用しています。