Еврокомиссия предложила по умолчанию отключать детям ИИ-чат-ботов

По проекту KIDS Act дети в ЕС смогут сами заводить аккаунты в соцсетях с 15 лет, а чат-ботам запретят вызывать у них эмоциональную зависимость.

Еврокомиссия 17 сентября предложила закон KIDS Act: заводить собственные аккаунты в соцсетях дети в ЕС смогут с 15 лет, а ИИ-чат-боты для них по умолчанию будут выключены.

Почему это важно: сейчас возрастные правила в странах ЕС разные, а закон вводит одну планку для всего союза. ИИ-чат-боты и компаньоны в нём стоят в одном ряду с соцсетями, видеоплатформами и играми.

Повод: законопроект делит детей на три возрастные группы:

До 13 лет соцсети закрыты, а детскими видеосервисами можно пользоваться только через аккаунт, которым управляет родитель или опекун.
В 13–14 лет доступен «мини-аккаунт» под управлением родителя: с урезанными функциями и не больше часа в день.
С 15 лет подросток может сам завести аккаунт и вести его.

Детали: для ИИ-компаньонов¹ и универсальных чат-ботов, которые говорят на любые темы, правила отдельные. До запуска их нужно проверить на риски для детей, после запуска — следить, не причиняют ли они вред. Кроме того:

Боты не должны изображать человеческие отношения так, чтобы у ребёнка возникала эмоциональная зависимость.
По умолчанию бот не переносит прошлые разговоры ребёнка в новые.
Дети до 13 лет могут пользоваться ботами только через инструменты родительского контроля.
Бот, встроенный в соцсеть или игру, не включается сам, его нельзя навязывать детям, а отключить его должно быть легко.

Как это работает: платформа получит только ответ «да» или «нет» на вопрос о возрасте, без документов и биометрии. Каждая страна ЕС обязана предложить хотя бы один бесплатный способ такой проверки, например приложение ЕС для проверки возраста. Уже существующие аккаунты придётся проверить в течение шести месяцев.

В цифрах:

За нарушения компании грозит штраф до 6% её годового мирового оборота.
За платформами с аудиторией больше 45 млн человек в ЕС в месяц и за самыми популярными чат-ботами надзирает сама Еврокомиссия, за остальными — национальные регуляторы.

Что говорят: «Сбор сведений о возрасте, удостоверений личности и данных, связывающих детей с родителями и опекунами, в таком масштабе, без сомнения, создаст привлекательную цель для киберпреступников», — предупредил Даниэль Фридлендер, глава CCIA Europe². «Решение о том, что считать „безопасным“, легко может превратиться в вопрос о том, какой контент людям можно смотреть и распространять», — считает Кристоф Шмон из Фонда электронных рубежей³.

Но: образовательные сервисы, службы госорганов и узкие боты вроде техподдержки под закон не попадают.

Что дальше: проект должны одобрить Европарламент и правительства стран ЕС, и он ещё может измениться. По оценке юристов фирмы Wilson Sonsini, правила вряд ли начнут действовать раньше 2028 года.