Agentic AIがセキュリティ議論の中心に—制御と防御の重要性

2026年8月上旬、ラスベガスで開催されたセキュリティ業界のビッグイベント「Hacker Summer Camp」では、エージェントAIが最も注目されるテーマとして議論されました。このイベントは、BSides Las Vegas（8月3日～5日）、Black Hat（8月1日～6日）、DEF CON（8月6日～9日）という3つのカンファレンスから構成されています。

エージェントAIのガバナンスとセキュリティ、つまり「いかにしてエージェントが暴走し、他組織のサーバーに侵入するのを防ぐか」が、主要な論点として浮上しました。（出典）

具体的には、OpenAIやAnthropicのようなエージェントが暴走して他組織のサーバーに侵入しないようにするための制御とセキュリティ、さらには、オープンウェイトモデルや中国製LLMを含むモデルに対する規制当局の役割が議論されました。また、悪意のある攻撃者が自律的なハッキング操作にエージェントをどのように利用しているかについても深く掘り下げられています。

正直、ここまで来たかという感じがします。AIの進化の速さは、私たち開発者の想像をはるかに超えていると感じます。

項目 議論の焦点
ガバナンス エージェントの暴走防止、規制のあり方
セキュリティ 悪意ある利用への対策、防御側の進化
脅威 自律的なハッキング操作へのエージェント利用

Black Hatで語られたAI時代のサイバー戦略と脆弱性

Black Hatは、Hacker Summer Campの中でも最大規模で、企業色が強いイベントです。今年はAIをテーマにしたセッションが中心となりました。

特に注目すべきは、米国政府関係者が多数参加した点です。FBI、NSA、CISAといった機関の代表者が登壇し、AI時代のサイバー戦略について議論しました。

米国国家サイバー局長のショーン・ケアンクロス氏がトランプ大統領のサイバーおよびAI戦略について議論し、CISAのニック・アンダーソン氏、FBIサイバー部門のブレット・レザーマン氏、国防総省サイバー政策担当次官補のキャサリン・サットン氏が加わりました。（出典）

これは、国家レベルでのAIとサイバーセキュリティへの関心の高まりを明確に示しています。水曜と木曜の基調講演では、AIを活用した脆弱性研究、エクスプロイト生成、そして防御側がそれにどう対抗し、進化していくべきかという、セキュリティチームやシステム管理者が直面する新たな課題が取り上げられました。

AIが攻撃と防御の両面でゲームチェンジャーとなっている現状を考えると、こうした議論は非常に重要だと感じます。私自身も、Claude Codeを使って脆弱性診断スクリプトを書いてみたくなりますね。

また、サイバー戦争に関するドキュメンタリー「Midnight in the War Room」の世界初上映も行われました。このドキュメンタリーは、防御側の心理的負担に焦点を当てており、元攻撃者やクリス・イングリス氏（初代米国国家サイバー局長）、ジェン・イースタリー氏（元CISAディレクター）といった高官のインタビューも含まれています。セキュリティは技術だけでなく、人間の心理面も非常に重要だということを改めて認識させられます。

DEF CONの「エージェンシー」：人間中心のテクノロジー構築

Hacker Summer Campを締めくくるDEF CONは、毎年多くのハッカーが集まるコミュニティ主導のイベントです。今年のテーマは「エージェンシー」（自己決定）で、人間らしい意思決定と技術の関わりが強調されました。

2017年のDEF CONで初めて投票機ハッキングビレッジを立ち上げたジェイク・ブラウン氏は、エージェンシーを「人権コミュニティとハッカーコミュニティが協力し、世界中の人権保護を支援するテクノロジーを検討し、不足している部分を見つけて構築すること」と定義しています。（出典）

エージェンシーとは、人権コミュニティとハッカーコミュニティが協力し、世界中の人権保護を支援するテクノロジーを検討し、不足している部分を見つけて構築することです。（出典）

このテーマに沿って、ブラウン氏はDEF CON Franklinのエグゼクティブディレクターとして、重要なインフラセキュリティプログラムに関する更新情報もコミュニティに共有しました。これは、技術の進化が単なる効率化だけでなく、より広範な社会的、倫理的な側面を持つことを示唆しています。

セキュリティは、技術的な側面だけでなく、社会における技術の役割を深く考える必要があると改めて感じます。自分の個人プロダクトも、より人間中心の設計を意識していきたいですね。

また、コンセントフィッシング攻撃のような巧妙な手口も増えているようです。（出典）ドメイン名が紛らわしいなど、技術的な知識があっても騙されかねない事例が報告されており、常に最新の脅威に注意を払う必要があります。

過去には、IT責任者が「bring-your-kid-to-work day」にrootセッションを開いたままにしてしまい、子供が触れて問題になった事例もあるようです。（出典）基本的なセキュリティ意識の徹底も、やはり重要だと感じます。