ЕС хочет, чтобы имитацию отношений в чат-ботах можно было отключить, пишет Bloomberg

Еврокомиссия готовит закон, по которому онлайн-сервисы в ЕС должны будут дать взрослым выключать функции, удерживающие внимание, — от автовоспроизведения видео до чат-ботов, которые имитируют личные отношения, пишет Bloomberg. Проект Digital Fairness Act видели также Reuters и Euronews. Представитель Еврокомиссии сказал Euronews, что утечки не комментирует.

Почему это важно: пока Еврокомиссия борется с затягивающим дизайном по Закону о цифровых услугах, и эти дела касаются крупнейших платформ. Новый закон о защите потребителей распространится на любые компании, работающие с потребителями, и прямо называет среди удерживающих приёмов ИИ-чат-ботов.

Предыстория: 6 февраля Еврокомиссия предварительно признала, что TikTok нарушает Закон о цифровых услугах бесконечной лентой, автовоспроизведением и пуш-уведомлениями. Компания назвала эти выводы «категорически ложными». 10 июля такие же предварительные выводы получила Meta* по Facebook* и Instagram*; в Meta ответили, что в них не учтены её меры по защите подростков. В сентябре Еврокомиссия предложила отдельный закон для детей, KIDS Act: самостоятельно заводить аккаунты в соцсетях — с 15 лет, а чат-ботам — запрет вызывать у детей эмоциональную зависимость. Детям 13–14 лет проект оставляет аккаунт с ограниченными функциями, которым управляет родитель или опекун.

Детали: по проекту, взрослый пользователь сможет выключить автовоспроизведение, уведомления, не связанные с его собственными действиями, награды за серии ежедневных заходов и функции чат-ботов, которые изображают отношения с человеком, чтобы разговор длился дольше. Сами эти функции проект не запрещает, он лишь обязывает дать их выключить. Пункт о чат-ботах есть у Bloomberg и Euronews, а Reuters пишет о праве отключать затягивающие функции в целом. Коснётся ли это универсальных ассистентов или только приложений-компаньонов, из публикаций не ясно.

Если шире: чат-боты — лишь малая часть проекта. Он заменит директиву 2005 года о недобросовестной коммерческой практике регламентом, который будет действовать напрямую во всех 27 странах ЕС. По описанию Euronews, в проекте есть и такие пункты:

• Десять уловок в интерфейсе запрещаются в любом случае, и вред от них не придётся доказывать: например, когда отменить подписку сложнее, чем оформить, или приходит фальшивое уведомление, будто пользователю кто-то написал.
• Пользователь сам выберет, какие покупки ИИ-агент должен согласовывать с ним, а агент обязан раскрывать спонсорские рекомендации.
• Детям в играх запретят платные лутбоксы¹ и механики «плати и побеждай», а рекламу на основе профиля ребёнка — всем компаниям. Сейчас по Закону о цифровых услугах такой запрет действует только для онлайн-платформ, кроме микро- и малых предприятий.

В цифрах: компаниям, которых уличат в нечестных приёмах — например, в том, что они подталкивают людей покупать больше или показывают детям персонализированную рекламу, — грозит штраф до 6% мирового годового оборота, пишет Reuters. Это тот же потолок, что и в Законе о цифровых услугах². По оценке Еврокомиссии, которую приводит Euronews, с 2025 по 2035 год новые правила избавят потребителей от потерь на 88,4 млрд евро.

Что говорят: в европейской сети организаций по защите цифровых прав EDRi проект считают слишком мягким к затягивающему дизайну. «Возможность отказаться не должна автоматически считаться достаточной», — сказала EUobserver советница EDRi по политике Ичасо Домингес де Оласабаль (Itxaso Domínguez de Olazábal). «Зачем так прямо признавать проблему затягивающего дизайна, не вводя более жёстких обязанностей её предотвращать?» — добавила она.

Другая сторона: ассоциация технологических компаний CCIA Europe ещё в октябре предупреждала, что закон продублирует действующие правила ЕС и «рискует сдерживать персонализацию в интернете». Вместо нового закона она просила лучше применять существующие. Германия в неофициальной записке от 14 октября тоже предлагала поправить нынешние директивы, а не писать новый закон, пишет Euronews со ссылкой на Agence Europe.

Что дальше: еврокомиссар по вопросам юстиции и защиты потребителей Майкл Макграт должен представить проект 11 ноября. Затем его будут согласовывать Европарламент и страны ЕС. По проекту, правила начнут действовать через 12 месяцев после вступления закона в силу. Юристы фирмы CMS не ждут, что закон вступит в силу раньше конца 2028 года.