Мало кто сомневается, что ИИ будет использоваться для распространения дезинформации перед приближающимися выборами во всем мире. Неизвестно только, какое именно влияние будет оказывать созданная нейросетью дезинформация. А также будут ли кандидаты и их команды, использующие ИИ, открыто об этом заявлять.
Например, наша команда в Factchequeado недавно опубликовала разоблачение фейкового видео, которое использовала в своей кампании команда одного из претендентов на пост президента США от республиканцев — губернатора Флориды Рона Десантиса. Видео демонстрирует коллаж из шести фотографий, на которых изображены бывший президент Дональд Трамп — противник Десантиса в борьбе за голоса республиканцев — и доктор Энтони Фаучи, бывший директор Национального института аллергии и инфекционных заболеваний. Три из шести изображений сгенерированы ИИ, на них Трамп обнимает и целует Фаучи, который крайне непопулярен среди республиканцев.
Авторы видео не сообщают избирателям, что они использовали сгенерированный нейросетью контент, который соседствует с реальными фотографиями.
Все ли согласны с тем, что это обман? Или кто-то хочет поспорить?
В апреле 2023-го, после того как Джо Байден заявил, что собирается добиваться переизбрания, Республиканская партия использовала ИИ для создания направленного против него видео. При этом видео сопровождалось сообщением, что контент сгенерирован с помощью ИИ.
Но авторы видео, распространенного командой Десантиса, не заявляют открыто об использовании ИИ. Наша команда Factchequeado не смогла определить, какое программное обеспечение использовалось для обработки изображений.
В опубликованной на сайте Factchequeado статье мы объясняем, как определить, было ли изображение сгенерировано нейросетью. Полезно начать с поиска источников изображения и определить, не публиковалось ли оно ранее. Также важно обращать внимание на небольшие детали, например на глаза или руки людей, в поисках изъянов изображения или других следов работы ИИ.
Обнаружить признаки использования ИИ помогают также специальные инструменты. Но, как и со многими другими инструментами, полученные результаты неидеальны, и случаются ошибки.
Хорошо известно, что форматы распространения дезинформации изменчивы и ее распространители развиваются и совершенствуются быстрее, чем те, кто им противостоит. Так было на всех выборах последних лет: мы видели поддельные фотографии, замедленные видео, "дешевые подделки" (чипфейки) с обработанными изображениями (такое название они получили потому, что в прошлом дипфейки стоили дороже), сфальсифицированные вотсап-аудио.
Выборы за выборами дезинформаторы демонстрируют журналистам, представителям общественности и членам избирательных комиссий что-то новое. Лучшее, что можно сделать в этой ситуации (и такой выход тоже далеко не идеален), — подготовить людей, научить их распознавать дезинформацию, используя методы, эффективно сработавшие во время предыдущих избирательных кампаний.
Более чем за год до президентских выборов в США эксперты объясняют, как ИИ может поставить под угрозу выборы или подорвать легитимность избирательных процессов, а также дают рекомендации, как с этим бороться.
Центр юстиции Бреннана опубликовал аналитический материал "Как ИИ подвергает выборы опасности — и что можно предпринять для защиты", в котором эксперт по разоблачению дезинформации Центра Бреннана Микела Пандитхаратне и профессор математики и науки о данных в Университете Бентли Ноа Джансиракуза рассказали об опасностях, связанных с использованием во время выборов дезинформации, созданной нейросетью.
Они призвали федеральное правительство, разработчиков ИИ, соцсети и другие институты активизировать свои усилия в защиту демократии.
Вот что они предлагают сделать.
Усовершенствовать фильтры, способные выявлять ИИ, чтобы исключить распространение связанной с выборами дезинформации, а также ввести ограничения, благодаря которым проводить масштабные дезинформационные кампании станет сложнее.
Федеральное правительство должно создать инструменты для борьбы как с ультрафейками (или дипфейками), так и с интернет-мошенничеством (или фишингом). Эти инструменты должны быть доступны избирательным органам штатов и местным избирательным органам, что поможет им выявлять сгенерированный ИИ контент.
Создать внутри исполнительной ветви власти ведущее агентство, которое будет во время выборов координировать решение вопросов, связанных с ИИ.
Верхнее фото предоставлено Factchequeado.
Другие статьи
