AI悪用の進化：自律エージェントが脅威の主流に

Google Threat Intelligence Group（GTIG）が発表した2026年5月の報告書に続き、最新の調査でAIが悪用される手口が劇的に進化していることが判明しました。脅威アクターは、単純なプロンプト入力から、自律的に動作するAIエージェントワークフローやAIを活用した自動化へと移行しています（出典）。

この変化により、人間が介在する遅延が劇的に減少し、防御側が対応できる時間的窓が大幅に圧縮されています。正直、ここまで来たかという感じがします。

2026年第2四半期にGTIGは、脅威アクターがクラウドリソースを侵害し、6時間以内にエージェントを介した大量の認証情報収集キャンペーンを計画、構築、実行するのを観測しました。

これはかなり衝撃的なニュースです。6時間以内にクラウド侵害から認証情報収集まで実行されるとなると、従来のセキュリティ対策では間に合わないケースが増えるのではないでしょうか。もはや人間の手作業による監視や対応だけでは、このスピードに対抗するのは難しいと感じます。

広がる脅威の範囲：AI資産が新たな標的に

脅威アクターは、AIアシスト型コーディングツールの活用やオープンソースソフトウェアの統合によって加速するソフトウェア開発サイクルを悪用し、ソフトウェアサプライチェーンのリスクを拡大させています。特に、開発者、AIコーディングアシスタント、LLMセキュリティスキャニングツールが積極的に標的とされているとのことです（出典）。

脅威のタイプ 具体的な標的 目的
ソフトウェアサプライチェーンリスク 開発者、AIコーディングアシスタント、LLMセキュリティスキャナー 開発プロセスの悪用、悪意あるコードの挿入
プロプライエタリAI IP AIモデル、コード、プロンプト、研究データ スパイ活動、技術盗用
不正なアカウント調達とLLMJacking 開発者認証情報、侵害されたAIプラットフォームアカウント、企業クラウドインフラ アクセスコスト回避、不正な高パフォーマンス計算ワークロードの実行

また、GTIGは、医療、政府、メディアなどの業界で、プロプライエタリなAIモデル、コード、プロンプト、研究が標的とされる事例が増加していることも確認しています。これは、AIモデルの重み（モデルウェイト）やクラウドの計算クォータといった企業AI資産が、スパイ活動、恐喝、資源窃盗の新たな高価値ターゲットになっていることを示唆しています。

普段GCPでBigQueryやCloud Runを使っている身としては、クラウド環境の不正利用や認証情報の窃取は特に他人事ではないと感じますね。自分の個人プロダクトのセキュリティも一層強化しなければと肝に銘じました。

攻撃ライフサイクル全体でのAI活用と対策

国家支援型のエスピオナージグループやサイバー犯罪グループは、AI機能を攻撃ライフサイクル全体で活用しています。標的の偵察、ソーシャルエンジニアリングの誘引作成、カスタムマルウェアの難読化、そしてポストエクスプロイトのトラブルシューティングまで、多岐にわたるフェーズでAIが利用されているのです。さらに、情報操作（IO）キャンペーンの規模拡大も試みられています（出典）。

Googleは、AIを大胆かつ責任を持って開発するというコミットメントのもと、多角的な防御戦略を統合しています。これには、プロアクティブなモデルレベルのセーフガード、専門的な脅威インテリジェンス、および的を絞った封じ込めプロトコルが含まれます。AIの悪用に対するモデルの強化、悪意のあるプロジェクトやアカウントのプロアクティブな中断を通じた悪質な活動の緩和、そして自律的なGoogle AI脅威防御アーキテクチャによるセキュリティ運用の自動化を進めているとのことです（出典）。

最近ではAnthropicの研究者から「AIが10年以内に人類を滅ぼす可能性が10%以上ある」という警鐘も鳴らされており、AIの進化は私たちエンジニアにとってもその恩恵とリスクの両面で真剣に向き合うべきテーマだと改めて感じます（出典）。ローカルLLMを自作PCで動かしている自分としては、責任あるAI開発と安全な利用のためのガイドラインが今後さらに重要になるのではないでしょうか。