Google Запустила Инструмент Искусственного Интеллекта Earth После того, Как Подделала Ядерную Установку В Иране

Менее чем через 24 часа после запуска Google обновил свой новый генератор изображений Google Планета Земля на базе искусственного интеллекта по всему миру.

Как я сообщал 30 июля, Google недавно добавила возможность переосмысливать любые изображения Google Планета Земля на основе текстовых подсказок Gemini. Например, пользователи могли бы использовать эту функцию для визуализации города Помпеи до извержения Везувия или превратить известные достопримечательности в иллюстрированную инфографику, заполненную данными, полученными непосредственно из мультимодальных выходных данных Gemini.

К сожалению, запуск прошел не совсем так, как планировалось, после того, как журналист-расследователь Хенк ван Эсс и отделы новостей, включая NPR и Futurism, доказали, что этот инструмент можно использовать для создания потенциально вводящего в заблуждение контента. Ван Эсс использовал Google Earth для создания изображений беженцев вблизи мексиканской границы и вымышленной атомной электростанции в Иране.

Миллионы людей доверяют спутниковым снимкам Google Планета Земля как точному изображению мира, а это означает, что творческие или даже вводящие в заблуждение интерпретации могут стать особенно убедительными, если они основаны на реальных данных Google. Google подчеркивает, что эти изображения, созданные с помощью искусственного интеллекта, никогда не показывались другим пользователям в основном приложении Google Планета Земля и были помечены водяными знаками как созданные с помощью искусственного интеллекта. Однако было принято решение приостановить использование этой функции для улучшения ограждений безопасности.

Впоследствии Google объявила об отмене этой функции в обновлении к своему первоначальному объявлению в блоге Keyword blog:

"Обновление от 7/31: Мы знаем, что люди однозначно доверяют Google Планета Земля в плане достоверного представления о мире. Мы видели, как специалисты в области геопространства использовали эту функцию для различных полезных целей, однако мы также видели, как люди делились скриншотами созданных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы отказываемся от этой функции в Google Планета Земля, пока работаем над внедрением более надежных ограждений. Важно отметить, что сгенерированные изображения не отображались в основном интерфейсе Google Планета Земля, чтобы их могли видеть другие пользователи, и были помечены водяными знаками как созданные с помощью искусственного интеллекта."

It’s not immediately clear exactly how these safety guardrails will be improved, but there’s a world of difference in impact between educational infographics about national monuments and potentially believable images of fictitious geopolitical events. Google will have to navigate this carefully if the feature is to remain both useful and safe.

As van Ess discovered, Google’s SynthID system, used to invisibly watermark Google Earth’s AI-generated imagery, was easily defeated simply by taking a photo of a generated image. Furthermore, the Hive AI detection service rated a screen-recording of Google Earth’s AI-generated images as only 1% likely to be AI-generated video. This means SynthID, as it stands, is not enough to prevent simple manipulations of Google’s AI images from being passed off as real.

Google, understandably, wants to maximize opportunities afforded by its generative AI technologies. However, coupling real-world satellite data with photorealistic image generation creates unprecedented misinformation risks that Google must guard against if the feature is to survive. As of publication, Google’s AI image generation in Google Earth remains paused. However, testing Google Earth on the web today reveals that previously generated AI images remain accessible.

ForbesGoogle Earth Adds Major New AI Upgrade, But There’s A CatchBy Paul MoncktonForbesGoogle Challenges Apple Intelligence With New Mac Gemini UpgradeBy Paul Monckton