Google отключила ИИ-генератор в Google Earth из-за фейковых снимков

Google приостановила работу генератора изображений в Google Earth спустя сутки после запуска. Причиной стало то, что пользователи с помощью нейросети начали создавать фейковые спутниковые снимки терактов, военных объектов и лагерей беженцев.

Функция Create image появилась в веб-версии Google Earth 30 июля и была доступна пользователям по всему миру. Инструмент позволял выбрать любое место на карте, нажать «создать изображение» и описать текстом желаемые изменения. Нейросеть Nano Banana 2 обрабатывала реальные спутниковые, аэрофотографические и трёхмерные материалы Google и создавала фотореалистичную картинку на основе запроса.

В компании предлагали использовать новинку в основном для безобидных сценариев: показывать исторический облик городов — например, Помпеи до извержения Везувия, визуализировать архитектурные проекты, проектировать здания и парки или превращать реальные города в фантастические пейзажи.

Однако уже в первые часы работы пользователи применили инструмент для создания вымышленных кадров. Специалист по цифровым расследованиям Хенк ван Эсс сгенерировал изображение лагеря беженцев на границе США и Мексики, ядерного объекта в Иране, аварии в Амстердаме и больницы с воронкой от взрыва в секторе Газа. По его словам, система не отклонила ни один из запросов. «Я добавил больницу и воронку от бомбы в Газе за несколько секунд с помощью Google Earth. Не могу поверить, что только что это написал», — рассказал исследователь. Он также отметил, что для того, чтобы «разместить» ядерный объект в Иране, ему понадобилось всего одно предложение.

Другие пользователи превратили Красную площадь в военное кладбище, Пентагон — в базу из компьютерной стратегии, а также создали сцену, имитирующую теракт 11 сентября 2001 года.

С резкой критикой Google выступил GeoConfirmed — волонтёрский OSINT-проект, участники которого устанавливают места съёмки и проверяют фотографии и видео из зон конфликтов. Авторы проекта заявили, что спутниковые снимки давно служат важнейшим эталоном в борьбе с дезинформацией и при проверке утверждений, а Google Earth был одним из главных инструментов в этой работе. «С большой обеспокоенностью наблюдаем, как люди уже используют новый веб-инструмент Google Earth, чтобы создавать военные позиции, обозначать здания как школы и экспериментировать с манипулированием информационной средой. Фактически теперь пользователи могут фабриковать или изменять изображения, основанные на спутниковых снимках, чтобы подкреплять ложные нарративы», — отметили в GeoConfirmed. Там добавили, что основным и, возможно, единственным практическим применением инструмента стало создание и распространение недостоверной информации.

Первоначально Google утверждала, что все сгенерированные изображения защищены цифровым водяным знаком SynthID, который можно обнаружить с помощью Gemini или Google Lens. Однако ван Эсс показал, что такая проверка ненадёжна. По его словам, водяной знак принадлежит Google, приложение, которое его считывает, — тоже Google, как и поисковая система. «Каждый путь решения проблемы ведёт обратно через компанию, которая её создала. Что произойдёт, если сфотографировать сгенерированное ИИ-изображение и передать его в VerifyAI?» — задался вопросом исследователь. Он продемонстрировал, что после записи изображения с экрана проверка подлинности может не сработать.

31 июля Google объявила об откате нововведения. В заявлении компания подчеркнула, что пользователи доверяют Google Earth как надёжному источнику информации о мире. Представители Google отметили, что видели, как специалисты по геопространственным данным использовали функцию в полезных целях, но также зафиксировали случаи распространения скриншотов сгенерированных сцен.

Стоит подчеркнуть: созданные изображения не заменяли настоящие снимки в общедоступной версии Google Earth и не демонстрировались другим пользователям сервиса. Тем не менее их можно было сохранить и распространять отдельно — например, в виде скриншотов, которые выглядят как подлинные спутниковые фотоснимки с реальными координатами, зданиями и дорогами. Именно это, по мнению экспертов, делает инструмент особенно опасным: сгенерированные кадры трудно отличить от реальности, и их можно использовать для подкрепления ложных нарративов. Когда именно функция сможет вернуться, в компании не сообщают; Google пообещала усилить ограничения.