Дипфейки карт — новый опасный вид дипфейков. Как они могут повлиять на нашу жизнь

Разберемся, как искусственный интеллект фальсифицирует спутниковые снимки и на чем это может отразиться

Технология дипфейков, сильно нашумевшая относительно недавно за счет своей интересной, но крайне опасной способности заменять лица людей на видеороликах, теперь способна изменять спутниковые снимки и даже создавать их на основе обычных карт. В этой статье мы поговорим о том, как это работает, чем опасны подобные фальсификации карт и куда будет направлено развитие такого вида дипфейков в ближайшем будущем.

Чем опасны подделки картС чего начиналось развитие дипфейков картКак можно распознать поддельные картыРазвитие дипфейков карт

Что такое дипфейки карт и как они используются

Схема, описывающая суть работы нейросети, создающей дипфейки карт | washington.edu

Дипфейк — это технология, основанная на машинном обучении, способная очень «естественно» отредактировать какую-то часть медиафайла, например, заменить лицо на видеозаписи, да так, что невооруженным глазом эти изменения будет невозможно распознать.

Энтузиасты и исследователи много экспериментируют с возможностями ИИ. Так, совсем недавно научные деятели из университета США нашли новое применение этой технологии, заключающееся в искусственном создании спутниковых снимков.

По заявлениям авторов нейросети, она может найти множество применений. Одно из них — это моделирование спутникового изображения местности, которую не удалось зафиксировать в прошлом. Это может помочь в понимании, как разрастались города и менялся климат с годами. Также такая система может помочь даже в прогнозировании будущего, поэтому создание изображений на основе уже существующих может помочь заполнить множество потребностей мировой картографии, главное — понимать, что это лишь модель и что не стоит относиться к ней слишком серьезно.

Чем опасны подделки карт

Недавно в интернете была популярна эта картинка, однако она оказалось фейком.

По словам авторов нейросети, они не ставили перед собой цель создать инструмент для фальсифицирования спутниковых изображений в негативных целях. Однако, стоит понимать, что возможность менять мировые карты по личной, политической либо же какой угодно необходимости, тем самым вводя в заблуждение не только миллионы людей, но и власть разных стран, — это достаточно серьезная угроза безопасности многих государств. Например, дипфейки карт могут содержать лесные пожары и наводнения, которых нет на самом деле, или затрагивать недавние политические скандалы.

Для простого человека такие дипфейки могут стать просто еще одной фейковой картинкой, которая мелькает в ленте, а вот для человека, который, например, ведет бизнес и ищет пути инвестирования своего капитала — это может стать серьезной проблемой, ведь он может быть введен в заблуждение картами, которые заранее были «правильно» исправлены. Разумеется, сегодня или завтра на вас вряд ли окажет влияние такой инструмент, но что будет, если он продолжит развиваться и окажется не в тех руках?

С чего начиналось развитие дипфейков карт

a, b — регион Такомы, используется, как исходные данные; c, d — смоделированные спутниковые изображения на основе Сиэтла (с) и Пекина (d) | washington.edu

Команда исследователя Бо Чжао из Вашингтонского университета первая сумела настроить систему машинного обучения на создание дипфейков карт, загрузив в нее спутниковые снимки трех крупных городов мира: Пекина, Такомы и Сиэтла. Эти три города обладают своим неповторим обликом, который можно заметить с высоты птичьего полета. Так, Сиэтл можно назвать более зеленым, а Пекин, напротив, более «бетонным». Нейросеть научилась связывать различные детали карты улиц с изображением, сделанным со спутника.

Так, по итогу получилась программа, которая, принимает на вход карту участка любой улицы и указание города, на чьей основе следует вести обработку, возвращает в результате своей работы довольно реалистичное спутниковое изображение, которое представляет, как эта местность выглядела бы в указанном регионе. Например, на фото выше можно увидеть, как выглядела бы Такома с архитектурой бетонного Пекина или зеленого Сиэтла. Также можно было бы провести обратную генерацию и узнать, как предположительно бы выглядели улицы Пекина, если бы на них всюду росли деревья как в Такоме.

Как можно распознать поддельные карты

Очевидно, что неподготовленному зрителю будет достаточно тяжело определить разницу между настоящими спутниковыми снимками и обработанными нейросетью. Допустим, нереалистичные цвета, странные формы крыш и неестественные тени человек может списать на низкое качество изображений. Однако, есть у таких дипфейков и логические несоответствия, такие как улицы, которые никуда не ведут, и дороги без автомобильного движения. Но не стоит забывать, что нейросеть постоянно развивается и, быть может, в будущем нам уже не получится так легко определять, где нас пытаются обмануть, а где — нет.

Для более точного определения подделки, эксперты пользуются цветовыми гистограммами и другими глубоко техническими нюансами изображений. Разумеется, как постройку дипфейк-изображений, так и их поиск можно также доверить искусственному интеллекту. Именно в эту сторону развития нейросети сейчас двигается команда Бо Чжао.

Развитие дипфейков карт

Так и не скажешь, что это Пекин, который «натянули» на Такому — получился сероватый город с темными крышами | washington.edu

Авторы нейронных систем, создающих дипфейки карт, видят будущее для своего детища не только в непосредственном развитии, но и в противодействии ему. Уже сейчас как энтузиасты, так и команда Бо Чжао, работают над инструментом, который также основан на машинном обучении и рассчитан на определение поддельных карт. Разумеется, мы видим лишь начало пути становления дипфейков геоданных, а что будет дальше, может показать лишь время, но уже сейчас можно сказать наверняка: уже скоро подделки спутниковых снимков и карт в той или иной форме придут в повседневную жизнь обычных юзеров.

Источник trashbox.ru 10.08.2021