AIエージェント「ARTEX」によるサイバー犯罪の自動化

AIエージェントがサイバー犯罪を「工業規模」で自動化—FBIとAWSが警告のイメージ画像

2026年11月17日、FBIとAmazon Threat Intelligenceは、AIエージェントがサイバー犯罪を「工業規模」で自動化していると警告を発しました。具体的には、オープンソースのAIペネトレーションテストフレームワークであるARTEXが、銀行、政府機関、エネルギープロバイダー、医療機関といった世界中の重要セクターへの攻撃に悪用されています。

攻撃者はARTEXを使い、AI資格情報の窃取やディープフェイクによる本人確認回避を自動的に実行しています。

Amazonの脅威センサー「MadPotハニーポット」は、2026年10月3日から11月5日までの間に、ARTEXを利用した2つの主要なキャンペーンを検出しました。1つはAI資格情報を大量に窃取し、AIモデルへの不正アクセスを可能にするもの。もう1つは、リアルタイムのディープフェイク動画を生成して、ライブの顔認証チェックを突破しようとするものでした。

窃取されたAI資格情報とディープフェイクの脅威

AIエージェントがサイバー犯罪を「工業規模」で自動化—FBIとAWSが警告のイメージ画像

最初のキャンペーンでは、攻撃者がAIエージェントを用いてAPIキーを盗み出し、ARTEXフレームワークのモデルゲートウェイにそれらを供給することで、さらに多くのAIモデルアクセスキーを探索していました。AWSの最高情報セキュリティ責任者であるCJ Moses氏のブログ投稿によると、エージェントは各プロバイダーのトークンとIDサービスを通じて身元を確認し、ストレージの列挙、権限スコープの評価を行い、管理対象のAIモデルサービス、シークレット、パラメーターストア、アプリケーションIDを狙っていたとのことです(AWS Security Blog)。

標的となったサービスには、One API、New API、VeloeraなどのLLMゲートウェイやプロキシプラットフォーム、Dify、FastGPT、LangflowなどのAIアプリケーションビルダーが含まれます。このキャンペーンでは、盗んだクラウド認証情報を使ってモデルへの不正アクセスも試みられました。

2つ目のキャンペーンでは、ARTEXがリアルタイムのディープフェイク動画を生成し、2つの仮想通貨取引所での本人確認(KYC)チェックを騙そうとしました。具体的には、ベンダーのライブネスプロトコルをリバースエンジニアリングし、顔検出イベントストリーム、顔位置追跡、座標系を詳細に分析しました。

攻撃手口 内容 結果
AI資格情報窃取 AIエージェントがAPIキーを盗み、AIモデルゲートウェイを通じてさらに多くのアクセスキーを探索。クラウド認証情報も利用。 成功。LLMゲートウェイやAIアプリビルダーが標的に。
ディープフェイク本人確認回避 リアルタイムのディープフェイク動画を生成し、仮想通貨取引所のKYCチェックを突破試行。 失敗。ベンダーのサーバーサイド検証で拒否。

エージェントは顔をターゲットの7ピクセル以内に配置して完全な動作シーケンスを完了しましたが、最終的にはベンダーのサーバーサイド検証で拒否されました。しかし、別のセッションでは、コンシューマーグレードの単一GPUでオープンソースの顔アニメーションモデルを用いて、ライブ動画チェックが期待するフレームレートに近い毎秒11.5フレームのリアルタイムディープフェイク動画パイプラインを構築したと報告されています(AWS Security Blog)。

速度と持続性を高めるAIエージェントの脅威

FBIは2026年11月17日の別途の警告で、「ARTEXは攻撃技術を連鎖させるのに必要な時間を大幅に短縮し、一部の侵入は初期のターゲティングから特権アクセスまで3時間未満で進行する」と強調しています(FBIアラート)。これはAIエージェントが、従来の手法では考えられない速度と持続性で攻撃を仕掛けられることを示しています。複数のエージェントが同時に作業を進めることで、キャッシュアウト方法の探索、口座残高のクリア、ディープフェイク動画パイプラインの構築、本人確認回避といった複数のタスクを並行して実行できるのです。

これらの攻撃手法自体は新しいものではありませんが、AIエージェントがその実行速度と持続性を大幅に向上させている点が、今回の警告の重要なポイントだと感じます。AIが攻撃の自動化を加速させることで、防御側はこれまで以上に迅速かつ高度な対策が求められるのではないでしょうか。

Google Threat Intelligence Group(GTIG)も、同時期にロシア語話者のオペレーターがAIエージェントを用いてセキュリティパッチから悪用可能なエクスプロイトを人間の介入なしで作成し、データ窃取に至った事例を報告しています(The Register)。これは、AIが脆弱性発見と悪用において完全に自律的な能力を持つことを示しており、非常に衝撃的なニュースだと感じました。正直、ここまで来たかという感じがします。

エンジニア目線で見ると:基本的なセキュリティ対策の重要性とAIへの意識

今回のFBIとAWSの警告は、AIエージェントが脅威アクターのツールキットに本格的に組み込まれ、その有効性を高めていることを示しています。エンジニア目線で考えると、最も関係が深いのは、AIモデルやAPIを提供する開発者や企業、そしてクラウドインフラを利用するすべての組織ではないでしょうか。

ARTEXのようなフレームワークがオープンソースで提供されている以上、悪意のあるアクターがこれを利用して攻撃を仕掛けるハードルは劇的に下がると考えられます。特に、デフォルトの認証情報、コードや公開アーティファクトに残されたキー、認証されていないインターフェースや推論エンドポイント、未パッチのソフトウェアといった基本的なセキュリティ衛生が欠如している箇所が狙われやすいという指摘は非常に重要です。いくらAIが高度化しても、最終的にはこれらの基本的な脆弱性が攻撃の足がかりになるという事実は変わらないと感じます。

自分の開発するプロダクトにAIモデルを組み込む際や、APIゲートウェイを構築する際には、特に以下の点を再確認する必要があるでしょう。

  • APIキーや認証情報は厳重に管理し、コードや公開リポジトリに露出させないこと。
  • 利用するAIモデルやフレームワークのセキュリティ設定を適切に行い、不要なアクセスを制限すること。
  • OSやミドルウェア、ライブラリのパッチ適用を怠らないこと。

これらの対策を徹底することが、AIエージェントによる自動化された攻撃に対する最も効果的な防御策であると強く思います。また、自身の個人プロダクトでも、LLMゲートウェイなどを利用する際には、これらの基本的なセキュリティ対策を見落とさないように気をつけたいところです。