- By BPR
- 0 comments
AI活用型ペネトレーションテスト
Best Path Researchでは先日、日本の大手企業向けにブラックボックス形式のWebアプリケーション・ペネトレーションテストを実施しました。手動テストにAIベースのツールを組み合わせることにより、重大な脆弱性を単純な手動テストだけの場合よりも迅速かつ的確に発見できました。その結果、複数の深刻な潜在的脆弱性をサイト公開前に確実に対処することが可能になりました。
ペネトレーションテストへの強化学習の導入
現在当社では、最新の生成AI（genAI）および機械学習（ML）の技術を用いて、強化学習（RL）によるWebアプリケーションテストの一部自動化に取り組んでいます。特に最初の対象として、広く使われており、リスクの高いオープンソースのブログソフトウェアやウェブサイト構築ソフトウェアを選んでいます。
RLを用いたエージェントは隔離されたテスト環境内で動作し、一般的なセキュリティの脆弱性や設定ミスを自律的に特定・検証します。その挙動は、熟練した悪意あるハッカーが同じ脆弱性を見つけ、攻撃しようと試みる手法を模倣する形で設計されています。
RLを用いたエージェントは隔離されたテスト環境内で動作し、一般的なセキュリティの脆弱性や設定ミスを自律的に特定・検証します。その挙動は、熟練した悪意あるハッカーが同じ脆弱性を見つけ、攻撃しようと試みる手法を模倣する形で設計されています。
公開LLMに対する攻撃の防止
また、当社は一般向けに公開されている大規模言語モデル（LLM）の安全性確保にも注力しています。LLMはプロンプト・インジェクションやジェイルブレイクなどの手法を通じて機密情報の漏洩や、開発者が意図していない動作を実行させられる可能性があります。この種の攻撃は、最近当社がWebアプリケーションのペネトレーションテストで取り組んだ古典的なSQLインジェクションに概念的に似ています。今後は、企業がLLMを安全に実運用環境に導入するためのテストフレームワークやセーフガードの構築を推進していきます。
生成AIがもたらす脅威への対策
生成AIは多くのメリットをもたらしますが、一方で攻撃者が巧妙なフィッシングメールや極めてリアルなソーシャルエンジニアリング攻撃に悪用する事例も増えています。最近では、生成AIを使った音声や動画を利用し、従業員を騙して電話やビデオメッセージ経由で機密情報を漏洩させる事件も確認されています。当社は、数十年にわたって培ってきたAIと機械学習の専門知識を活かし、こうした新たな脅威がユーザーに届く前に検知・防止するためのツール開発を行っています。
Best Path Researchは、攻撃側および防御側の両面でAI技術を活用し、変化し続ける脅威環境において企業の安全を強化する支援をしています。