App StoreとGoogle PlayでAIヌード化アプリ問題が再燃—サンフランシスコ市が削除要求

AIヌード化アプリへの法的手続きと企業側の対応

サンフランシスコ市検察官は、App Storeで8種類、Google Playで5種類のAIヌード化アプリが配信されていることを問題視し、AppleとGoogleに書簡を送付しました（出典）。これらのアプリは、フェーススワップツールとして宣伝されつつも、非同意で他人の画像をヌード化する目的で利用されている実態があります。検察官は、両社がこれらのアプリから手数料を得ていることを「違法なディープフェイク画像の販売を幇助している」と厳しく批判しています。

「ヌード化」アプリは App Review ガイドラインに違反しており、当社はこうしたアプリを積極的に却下し、ユーザーから報告があった場合も含め、すでに多数を削除してきました。

Googleは、書簡で名指しされた5つのアプリを含む「数百」ものヌード化機能を備えたアプリをポリシー違反で削除したと発表しました（出典）。Appleも、すでに問題のアプリのうち3つを削除し、その開発者アカウントを停止中であると述べています。

残りの4つについてもポリシー違反に対処するよう連絡しており、対応しない場合は削除の対象となるとのことです。両社ともにポルノグラフィに関する開発者ルールを設けており、過去にも同様のアプリを削除した実績があります。

AIによる画像生成技術、特にディープフェイク技術の進化は目覚ましいものがあります。私自身もStable DiffusionやローカルLLMを自宅のRTX 3090で動かしていますが、技術の悪用は深刻な社会問題を引き起こしかねないと感じます。倫理的なガイドラインや法的規制が、技術の進歩に追いつく必要があるのではないでしょうか。

懸念されるプライバシー侵害とディープフェイク問題

今回のAIヌード化アプリ問題は、単なるアプリの違法性だけでなく、個人のプライバシー侵害やディープフェイク技術の悪用という深刻な側面を浮き彫りにしています。生成AIの能力が向上するにつれて、フェイクコンテンツの生成はより手軽になり、その識別は困難になりつつあります。

AI技術は多くの恩恵をもたらす一方で、このような悪用を防ぐための技術的・法的対策が喫緊の課題となっています。開発者側も、自身のプロダクトが予期せぬ悪用をされないよう、利用規約やコンテンツフィルターの強化が求められるでしょう。私の個人プロダクトでも、AIを活用する際には常に倫理的な側面を考慮するようにしています。

AppleとGoogleのガイドラインとユーザー報告の重要性

AppleのApp Store ReviewガイドラインやGoogle Playのデベロッパーポリシーには、ポルノグラフィや性的な露骨なコンテンツに関する明確な禁止規定があります。Appleは「App Storeはユーザーにとって安全で信頼できる場所として設計されており、ポルノグラフィを生成、配布、消費するように設計されたアプリは常に厳しく禁止されています」と表明しています（出典）。

また、Appleは2026年6月にApp Storeガイドラインを強化し、ポルノコンテンツに対する開発者の責任について明確化しています。これは、今回の問題に対する事前対応の一環とも考えられます。Googleも研究者からの報告を受けて、過去に同様のアプリを削除してきた実績があります。

ユーザー側も、不適切なアプリを発見した際には積極的に報告することが重要です。

• Appleの場合：reportaproblem.apple.com にアクセスし、違法、不快、または悪質なコンテンツ、詐欺や不正行為を報告できます。
• Googleの場合：Google Playストアの各アプリページから「不適切なコンテンツとして報告」のオプションを利用できます。

これはエンジニアの立場から見ても、プラットフォームの健全性を維持するために不可欠なプロセスです。プラットフォーム側だけでは全ての悪用を監視することは難しいため、ユーザーからのフィードバックは非常に貴重だと感じます。