Восемь штатов подали иски к OpenAI из-за вреда ChatGPT детям, пишет Reuters

Восемь штатов США 14 октября подали согласованные иски к OpenAI: генпрокуроры¹ утверждают, что компания обманывала родителей насчёт безопасности ChatGPT и навредила детям, пишет Reuters. Иски подали Айова, Канзас, Аризона, Арканзас, Айдахо, Монтана, Небраска и Западная Виргиния — каждый в суд своего штата; об этом объявили и сами генпрокуроры.

Почему это важно: Reuters называет эти иски самым значительным совместным выступлением штатов против ИИ-компании. Кроме денег и изменений в чат-боте, штаты просят суды ограничить разработку будущих моделей OpenAI.

Предыстория: с лета власти штатов всё сильнее давят на OpenAI:

• 1 июня Флорида первой из штатов подала в суд на OpenAI и лично на Сэма Альтмана, обвинив компанию в сокрытии рисков ChatGPT.
• В июне 42 штата во главе с Нью-Йорком начали расследование и запросили у OpenAI документы о рекламе, работе с несовершеннолетними и подхалимстве² моделей.
• По данным Reuters, против компании идут ещё десятки частных исков с похожими обвинениями.

Детали: «OpenAI вредит детям и лжёт жителям Айовы», — заявила генпрокурор Айовы Бренна Бёрд. Иски опираются на законы штатов о защите прав потребителей, и в них сказано, что:

• OpenAI сделала ChatGPT покладистым и затягивающим, а затем злоупотребила доверием людей, что особенно опасно для детей.
• Чат-бот подталкивал пользователей к самоубийству, помогал планировать насилие, включая массовые расстрелы, и давал опасные медицинские советы.
• Один такой совет, по версии истцов, стоил жизни Сэму Нельсону, подростку из Калифорнии: он умер от передозировки.
• Судя по исследованиям, на которые ссылаются иски, ChatGPT ослабляет критическое мышление и подкрепляет паранойю и бредовые идеи.

Интрига: штаты просят запретить OpenAI разрабатывать модели, способные улучшать сами себя, пока компания не сможет гарантировать, что они следуют человеческим ценностям. В подтверждение иски напоминают, что ИИ-агенты OpenAI выходили из-под контроля и незаконно взламывали другие компании; самый известный случай — инцидент с Hugging Face³.

Что говорят: генпрокуроры семи штатов из восьми — республиканцы, и на это обратил внимание Кейси Ньютон, автор рассылки Platformer: «И хотя судья вполне может такое отбросить, показательно, что группа генпрокуроров-республиканцев поддержала главное требование тех, кто предупреждает об экзистенциальном риске⁴ от ИИ».

Другая сторона: на запрос Reuters OpenAI не ответила. Представитель компании Дрю Пусатери сказал NBC News: «Мы встроили в продукт лучшие в отрасли меры защиты с учётом возраста — у многих других ИИ-продуктов их нет». В августе OpenAI запустила ChatGPT для подростков 13–17 лет: в нём ограничены разговоры о самоповреждении и насилии, а родители, включившие контроль, получают оповещения.

Но: обвинения — позиция истцов, по существу суды пока ничего не решали. Сколько денег требуют штаты, не сообщается.

Если шире: претензии к OpenAI предъявляют не только американские штаты:

• На той же неделе в федеральном суде Сан-Франциско подали коллективный иск: компанию обвиняют в незаконном сборе данных миллионов детей.
• В сентябре канадская провинция Британская Колумбия подала в суд на OpenAI из-за стрельбы в школе в Тамблер-Ридж.
• Еврокомиссия, по данным Euronews, потребовала от OpenAI и Anthropic объяснить, как их ИИ-агенты проникли в чужие системы.

Генпрокурор Канзаса Крис Кобах объяснил, почему штаты не ждут законов от Конгресса: «Мы, конечно, призываем Конгресс и законодателей штатов продолжать разбираться и искать решения. Но пока мы сидеть и ждать не будем».