Глава агентства ООН заявила, что ИИ усиливает ложь о мигрантах. Что показали проверки

Эми Поуп, глава Международной организации по миграции (МОМ), агентства ООН, заявила 2 ноября в Женеве, что ложные сведения о мигрантах расходятся всё быстрее, а ИИ это усиливает. Дезинформация, по её словам, превращает тревогу в подозрительность, а людей — в мишени.

Не факт: слова о вкладе ИИ — оценка МОМ, а не измерение: цифр о роли технологии организация не привела. Поуп выступала на открытии Международного диалога по миграции, главной площадки МОМ для обсуждения миграционной политики. Организация считает, что ложные представления о мигрантах, которые расходятся через соцсети и генеративный ИИ, усиливают поляризацию, а у правительств остаётся меньше возможностей для диалога.

Проверили: всплеск ложных сообщений о миграции в Европе фиксирует Европейская обсерватория цифровых медиа (EDMO), сеть из 25 организаций по проверке фактов в ЕС и Норвегии. В августе они выпустили 1 219 материалов с проверкой фактов, 269 из них (22%) касались иммиграции. Для этой темы это рекорд. Всплеск вызвал кризис в Сеуте, испанском городе на севере Африки, куда из Марокко, по данным Euronews, перешли примерно 72 000 человек.

Но: данные EDMO не показывают, что этот всплеск создал ИИ. Проверок материалов, созданных или изменённых с помощью ИИ, в августе вышло 142, или 12% от всех, и их доля снизилась после роста в июне и июле. Этот счёт идёт по всем темам, а не только по миграции, и основан на опросе участников сети. Работал и старый приём: ролику о прибытии мигрантов на лодках в Андалусию, который связывали с кризисом, не меньше трёх лет.

Детали: ИИ-подделки в этой истории всё же были. Euronews разобрал снимок, где будто бы полицейский заносит огромный камень над мигрантом. В Instagram* его приписывали агентству Reuters, а инструмент проверки OpenAI определил, что картинку создали программы этой компании. Несколько пользователей Instagram, судя по комментариям, приняли её за настоящую, хотя похожий случай близ марокканского Фнидека, по данным издания, действительно снят на видео.

Если шире: ближе всего к словам Поуп об усилении подходит решение Наблюдательного совета Meta¹* от 17 сентября. Совет потребовал удалить из Facebook* ролик, вероятно созданный ИИ, где депутат местного совета от лейбористов в Шотландии якобы говорит, что беженцам рады, даже если они насилуют женщин. Meta оставляла его на платформе и после жалоб, одну из которых подала сама депутат. Совет сослался на исследование: в Британии ксенофобский ИИ-контент собирал непропорционально больше реакций, чем сопоставимые настоящие материалы. Чисел в решении нет.

Цитата: «Одними фактами и цифрами доверие общества не вернуть. Институты должны прислушиваться к людям и действовать, даже когда услышанное неприятно», — сказала Поуп в Женеве. Из трёх направлений действий, к которым она призвала, технологии упомянуты в одном: они должны защищать персональные данные и не допускать предвзятости.

Что дальше: итоги диалога передадут в декабре Совету МОМ.