Google Earthに導入されたAI画像生成機能「Nano Banana」とは
Googleは先週、Google Earthに新たなAI画像生成機能「Nano Banana」をローンチしました。この機能は、ユーザーがGoogle Earth上で任意の場所にズームし、「Create Image」ボタンをクリックし、プロンプトを入力することで、衛星画像をもとにAIが画像を生成するというものです。Googleは、動物のリゾート地、建築物のレンダリング、古代遺跡の復元といった「かわいらしい例」を提示していましたが、ユーザーはすぐに誤情報拡散に悪用する可能性を示しました (出典)。
Google Earthは世界の信頼できる見方としてユニークに信頼されている、とGoogleは認識しており、その上でAI画像生成機能の導入はさらに奇妙に感じられます。
既存のAIツールでもスクリーンショットを改変することは可能でしたが、物理世界の記録として信頼されているGoogle Earthというプラットフォーム内で直接画像生成を可能にしたことは、その信頼性に対して少なからず疑問を投げかけるものだと感じます。AIが生成した画像にはウォーターマークが付与されていたとGoogleは主張していますが、誤情報が拡散するスピードと影響力を考えると、十分な対策とは言えなかったのかもしれません。
わずか48時間での機能停止—背景とGoogleの認識
Googleは「Today we're bringing AI image generation with Nano Banana to Google Earth, letting you virtually reimagine anywhere in the real world.」と発表しましたが、その48時間足らず後には「Thanks for your submissions, we appreciate it – unfortunately we have seen people sharing screenshots of generated imagery that appear to violate our policies. So we've rolled back this feature in Google Earth while we work on implementing stronger guardrails.」と機能を停止するに至りました (出典)。
この迅速な停止は、インターネットの「ダークサイド」がすぐに現れたことを示しています。AIと誤情報の専門家であるHenk van Ess氏は自身のブログ「Digital Digging」で「What on earth is Google doing?」（Googleはいったい何をしているのか？）と疑問を呈しています。Google Earthという「世界の信頼できるビュー」を提供するサービスに、写実的な画像生成AIを組み込み、無害な楽しい使い方だけを期待するのは、2016年のMicrosoft Tayの事例を思い出させます。
| 項目 | 発表時（Google Earth AI） | 過去の事例（Microsoft Tay） |
|---|---|---|
| サービス内容 | Google Earth内でAI画像生成 | Twitter上のAIチャットボット |
| ユーザーインタラクション | プロンプトで画像生成 | ユーザーとの会話 |
| 結果 | ポリシー違反の画像生成・共有 | 差別的・ヘイトスピーチのツイート |
| 対応 | 48時間以内の機能停止 | 24時間以内の停止 |
AIにおける誤情報という「魔神」はすでにボトルから出ている現状で、このような事態は予想できたのではないでしょうか。PythonやTypeScriptでAIを使った開発をしている私からすると、モデルの品質や精度はもちろん重要ですが、**AIをどのような文脈で、誰が、どのように使うかという社会的な側面は、技術的な側面と同じくらい、あるいはそれ以上に重要だと感じます。
**特に、Google Earthのように広範なユーザー基盤を持つサービスでは、その影響も甚大です。Googleは一時停止であり、完全に機能を削除したわけではないとのことですので、今後の動向に注目したいと思います。
今後のAIと信頼性に関する考察
この件は、AI技術が急速に進化する一方で、その社会的な影響や倫理的な課題に対する理解と対策が追いついていない現状を示しています。特に、写実的な画像を生成できるAIは、現実と虚構の境界線を曖昧にし、誤情報の拡散を加速させる可能性があります。
Google Earthのような信頼性の高いプラットフォームでのAI画像生成機能の導入と、それに伴う問題は、他の大手企業がAIをサービスに統合する際の重要な教訓となるでしょう。ユーザーからのフィードバックや悪用事例をいかに迅速に検知し、対応できるかが、AI時代の信頼性を維持する鍵となると考えます。技術的なガードレールだけでなく、AIが社会に与える影響を多角的に考慮した上で、慎重な展開が求められるのではないでしょうか。
