Google отключил AI-инструмент Google Earth Nano Banana через день после запуска из-за риска дипфейков

Компания Google приняла решение отключить функцию генерации изображений Nano Banana в сервисе Google Earth. Инструмент был запущен 30 июля, а уже на следующий день, 31 июля, доступ к нему ограничили. Информацию об этом распространило издание Decrypt.

Nano Banana позволяла пользователям создавать вымышленные спутниковые снимки по текстовому запросу. По данным издания, журналисты и независимые исследователи продемонстрировали, что с помощью инструмента можно сгенерировать изображения событий, которых не происходило, включая воронку от взрыва в Лос-Анджелесе, затопленный Капитолий в США и пожар на иранском острове Харк.

Именно возможность создавать такие сцены вызвала беспокойство у специалистов, которые используют Google Earth для проверки оперативной информации и документирования происшествий. Фактические данные, полученные со спутников, традиционно считаются одним из надежных источников подтверждения событий в зонах конфликтов и при чрезвычайных ситуациях.

В Google пояснили, что пользователи публиковали сгенерированные изображения, которые выглядели как нарушающие правила сервиса. В компании заявили, что работа над усилением ограничений уже ведется, однако точные сроки возвращения функции не назвали.

Отдельно Google указывала на наличие водяного знака SynthID на изображениях, созданных нейросетью. Однако критики отметили, что такая маркировка не является достаточной гарантией против распространения дипфейков, особенно при быстрой пересылке изображений в мессенджерах и соцсетях.

Решение Google демонстрирует, что даже крупные технологические компании сталкиваются с необходимостью экстренно корректировать продукты после оценки рисков. Вопрос использования генеративных нейросетей в геосервисах остается открытым: важно найти баланс между удобством инструментов и защитой от злоупотреблений.