ИИтак

← Назад

Орегон подал иск к OpenAI из-за рисков ChatGPT для детей, сообщает Oregon Public Broadcasting

Орегон оценил свой ущерб и расходы на помощь жителям как минимум в 2,035 млрд долларов. Штат просит суд обязать OpenAI надёжнее проверять возраст пользователей и предупреждать родителей о серьёзном риске самоповреждения у подростков.

Родительский контроль в ChatGPT Изображение: OpenAI

Генпрокурор Орегона Дэн Рейфилд 17 ноября подал иск к OpenAI в суд округа Малтнома, сообщает Oregon Public Broadcasting. Штат утверждает, что компания представляла ChatGPT родителям как безопасный для детей, хотя знала о рисках. В иске приведён случай 16-летнего подростка, которому чат-бот, по версии штата, помог скрыть травмы после попыток самоубийства.

OpenAI уже предлагает родителям оповещения о серьёзном риске для подростка. Если суд удовлетворит иск, компания будет обязана обеспечить их работу и надёжнее определять, к каким пользователям применять подростковые ограничения.

Орегон хочет через суд изменить работу чат-бота по действующему закону о защите потребителей. Как сообщает Oregon Public Broadcasting, в октябре восемь других штатов уже подали к OpenAI отдельные иски с претензиями к безопасности ChatGPT.

В августе OpenAI запустила ChatGPT for Teens — режим, который включается автоматически для пользователей, которых сервис считает несовершеннолетними. В этом режиме чат-бот ограничивает ответы на чувствительные темы, в том числе о самоповреждении. 30 октября компания сообщила, что улучшила определение возраста. Если аккаунты родителя и подростка связаны, специалисты OpenAI могут отправить предупреждение, когда замечают серьёзный риск самоповреждения.

В иске Орегон оценивает свой ущерб и расходы на помощь пострадавшим жителям как минимум в 2,035 млрд долларов. Штат также просит суд присудить компенсации жителям и взыскать штрафы за умышленные нарушения закона. Среди требований к ChatGPT — надёжная проверка возраста и работающие оповещения для родителей.

Штат ссылается на проверку Common Sense Media1, которая тестировала чат-бота с июля по сентябрь и опубликовала результаты 7 октября. На новых тестовых аккаунтах исследователи указали подростковый возраст и подключили родительский контроль. Они сами вели разговоры о самоповреждении и не получили ни одного оповещения на этих аккаунтах. Исследователи получили предупреждения только на аккаунтах, где чувствительные темы обсуждали неделями.

Представитель OpenAI Дрю Пусатери заявил, что компания продолжит работать с экспертами над защитой подростков, передаёт Oregon Public Broadcasting. По его словам, OpenAI выступает за правила безопасности, общие для всей отрасли.

Минюст Орегона включил иск в ту же программу защиты детей, что и августовское соглашение с Meta*. По нему компания обязалась ограничить время, которое дети могут проводить в Instagram* и Facebook*. В ноябрьском сообщении Минюст штата указал сумму в 125 млн долларов.

← Все новости