Комитет ООН призвал государства защитить женщин от дипфейков

Комитет ООН по ликвидации дискриминации в отношении женщин¹ назвал дипфейки, шантаж интимными снимками и кибертравлю с помощью ИИ новыми формами насилия против женщин и призвал государства регулировать ИИ.

Почему это важно: рекомендации комитета разъясняют, чего требует от стран Конвенция о ликвидации всех форм дискриминации в отношении женщин, а её участники — почти все государства мира. В новом документе отдельно расписано, что должны делать власти и платформы, когда ИИ используют против женщин.

Повод: 23 октября в Женеве комитет представил общую рекомендацию² № 41 о гендерных стереотипах. Готовить её начали в 2022 году. В части об ИИ комитет перечисляет, что нужно сделать:

• Государства должны регулировать системы ИИ и цифровые платформы.
• Платформам нужно наладить приём жалоб и быстро удалять оскорбительный и дискриминационный контент.
• Пострадавшие должны получить средства правовой защиты.
• Решения, которые ИИ помогает принимать в образовании, найме, медицине, финансах и правосудии, должны быть прозрачными и проходить независимый контроль и проверку человеком.

Детали: «Системы искусственного интеллекта могут воспроизводить и усиливать гендерные стереотипы и пересекающиеся формы дискриминации в отношении женщин», — предупредил комитет. Пересекающимися называют случаи, когда женщину дискриминируют сразу по нескольким признакам: кроме пола — по расе, возрасту, инвалидности, экономическому положению или миграционному статусу. Особую тревогу у комитета вызывают генеративный ИИ и ИИ-агенты³, когда их используют против женщин. Кроме сексуализированных картинок, видео и шантажа, комитет упоминает целенаправленные атаки на женщин, которые занимают лидерские позиции, и случаи, когда злоумышленник выдаёт себя за другого человека.

Общая картина: ИИ — лишь одна часть документа. Остальное — о стереотипах в правосудии, семье, работе и медицине:

• Судей, прокуроров и сотрудников правоохранительных органов, которые воспроизводят дискриминационные стереотипы, комитет предлагает привлекать к ответственности, а их решения — пересматривать.
• Законы, в которых насилие против женщин считается частным или семейным делом, комитет советует пересмотреть.
• Государствам предлагают бороться с неравной оплатой труда и предвзятостью при выдаче кредитов, а неоплачиваемую работу по уходу за семьёй распределять равномернее.
• В медицине комитет призвал декриминализировать аборты и принять меры против акушерского насилия⁴.

Но: общие рекомендации юридически не обязательны. Это толкование договора, на которое комитет опирается, когда проверяет доклады стран.