Сгенерированное искусственным интеллектом изображение, на котором, по-видимому, изображен взрыв рядом со зданием в комплексе Пентагона, было распространено в социальных сетях в понедельник. Этот инцидент подчеркнул обеспокоенность по поводу дезинформации, генерируемой искусственным интеллектом, пишет The Guardian.
Изображение высокого темно-серого столба дыма быстро распространилось в Twitter, в том числе через публикации в проверенных аккаунтах. Остается неясным, откуда взялась эта фотография.
Министерство обороны США подтвердило, что изображение было поддельным. Тем не менее, его вирусность, по-видимому, вызвала кратковременный спад на фондовом рынке, сообщает CNN. Через несколько мгновений после того, как изображение начало распространяться в Twitter, фондовый рынок США заметно упал. Промышленный индекс Доу-Джонса упал примерно на 80 пунктов в период с 10:06 до 10:10 утра, полностью восстановившись к 10:13 утра.
В своем твиттере пожарная служба Арлингтона, штат Вирджиния, за пределами Вашингтона, округ Колумбия, сообщила, что ей известно о сообщениях в социальных сетях о взрыве, но угрозы для населения нет.
OSINTdefender, страница в Twitter, которая делится новостями о международных военных конфликтах и имеет более 336 тысяч подписчиков, была одной из проверенных страниц, опубликовавших фотографию.
Владелец страницы извинился за распространение дезинформации и сказал, что инцидент стал примером того, как “легко подобные изображения могут быть использованы для манипулирования информационным пространством и насколько опасным это может быть в будущем”.
Здание на изображении совсем не похоже на Пентагон и, по мнению экспертов, имеет признаки того, что оно, возможно, было создано с использованием искусственного интеллекта.
“Это изображение демонстрирует типичные признаки синтеза с помощью искусственного интеллекта: на здании и заборе есть структурные ошибки, которые вы бы не увидели, если бы, например, кто-то добавил дыма к существующей фотографии”, - комментирует CNN Хани Фарид, профессор Калифорнийского университета в Беркли и эксперт по цифровой криминалистике.
Изображение, которое имеет все признаки того, что оно было сгенерировано искусственным интеллектом, было распространено многочисленными проверенными аккаунтами с синими галочками, включая тот, который ложно утверждал, что оно связано с Bloomberg News.
“Сильный взрыв возле комплекса Пентагона в Вашингтоне, округ Колумбия. – первоначальное сообщение”, - было опубликовано в аккаунте вместе с изображением, на котором якобы виден черный дым, поднимающийся возле большого здания.
Это изображение - одно из нескольких, сгенерированных искусственным интеллектом, которые стали вирусными за последние недели, отмечает The Guardian. Недавние примеры включают в себя фотографию папы Римского в модном белом длинном пуховике и черно-белое фотореалистичное изображение, получившее приз Sony World Photography Awards. Немецкий художник, создавший изображение, получившее приз, сказал, что подал заявку на премию в качестве “дерзкой обезьяны”, чтобы узнать, будут ли подготовлены конкурсы для участия изображений с искусственным интеллектом. В конечном счете он отклонил эту награду.
Инцидент также в очередной раз высветил проблемы с проверкой в Twitter, поскольку платформа обновила свой сервис подписки Twitter Blue. Вплоть до прошлого месяца платформа выдавала синие контрольные значки пользователям, личность которых была подтверждена платформой. Однако в рамках новой программы Twitter Blue, запущенной в прошлом месяце, частные лица могут платить 8 долларов в месяц за синюю галочку. Опасения по поводу аккаунтов, выдающих себя за общественных деятелей, правительственных чиновников и новостные сайты, возросли после внесения изменений.
Как поясняет CNNЮ под руководством Илона Маска Twitter разрешил любому желающему получить верифицированную учетную запись в обмен на ежемесячный платеж. В результате верификация в Twitter больше не является показателем того, что учетная запись представляет того, за кого себя выдает.