Meta* поручила ИИ искать рекламу, ведущую на сайты с насилием над детьми

Meta добавила в проверку рекламы большую языковую модель. Она ищет объявления, которые выглядят безобидно, но скрыто уводят людей к материалам с сексуальным насилием над детьми на других сайтах.

Почему это важно: Meta признаёт, что преступники освоили её рекламу, хотя этот платный канал компания сама проверяет перед показом. Месяц назад наблюдатели показали, что проверка пропускала сотни таких объявлений.

Предыстория: 8 сентября некоммерческая организация Tech Transparency Project¹ (TTP) нашла в библиотеке рекламы Meta 332 объявления с изображениями сексуального насилия над детьми.

• Большинство изображений, по данным TTP, создано ИИ, иногда из снимков реальных детей, взятых из соцсетей.
• Большая часть объявлений вела на ИИ-приложения, которые умеют «раздевать» людей на фото или делать из снимков секс-видео.
• Объявления охватили более 29 000 человек. В США шли 262 из 332 объявлений, в Индии — 84: часть объявлений показывали сразу в нескольких странах.
• На следующий день городской прокурор Сан-Франциско Дэвид Чиу потребовал от Meta остановить такую рекламу.

Детали: само объявление может не содержать ничего запрещённого и служить лишь указателем на сторонний сайт. Разобравшись в схеме, Meta не ограничилась объявлениями из жалоб: она нашла связанные с ними аккаунты, отключила их и заблокировала внешние ссылки. Кроме языковой модели, компания называет ещё три меры:

• Системы смотрят не только на то, что показывает объявление, но и на то, куда оно ведёт, и блокируют такие адреса.
• Дополнительные проверки с помощью ИИ ищут материалы, которые прежние системы пропустили.
• Meta лучше находит людей, которые после блокировки заводят новые аккаунты.

Интрига: среди новых инструментов есть ИИ-агент для ред-тиминга², который сам атакует защиту Meta. Он должен находить слабые места раньше, чем новые уловки преступников успеют распространиться.

В цифрах: вот данные Meta за январь — июнь 2026 года:

• Компания приняла меры против 33,2 млн материалов с сексуальной эксплуатацией детей в Facebook* и Instagram*.
• Более 97% из них системы компании нашли раньше, чем кто-то пожаловался.
• В Индии таких материалов было 5,3 млн, и больше 98% из них нашли до жалоб.

Что говорят: «Такие материалы не прячутся в тёмных углах интернета. Их используют в платной рекламе на платформах Meta», — заявила в сентябре директор TTP Кэти Пол.

Другая сторона: тогда же представитель Meta Энди Стоун сказал, что компания не терпит ни приложений для «раздевания», ни эксплуатации детей, «настоящей или созданной ИИ». По его словам, многие из отмеченных объявлений к тому моменту уже удалили.

Но: рассказывая о новых мерах, Meta доклад TTP не упоминает. Сколько объявлений новые инструменты уже нашли, компания не говорит.

Против уже известных материалов Meta по-прежнему применяет PhotoDNA³: с 2011 года технология сверяет фото и видео в приложениях компании с базой цифровых отпечатков. Новыми отпечатками Meta делится с другими платформами через программу Lantern отраслевого объединения Tech Coalition⁴.