НКО просят суд заморозить разработку ИИ в пяти компаниях, пишет AP

Четыре некоммерческие организации просят суд запретить Anthropic, Google, Meta, OpenAI и SpaceXSI¹ создавать и выпускать ИИ-модели сильнее тех, что у них уже есть. Об этом сообщило агентство Associated Press, изучившее иск. Его подали 12 ноября в суд штата Калифорния в Сан-Франциско, никаких запретов суд пока не вводил.

Почему это важно: иск направлен сразу против пяти ведущих лабораторий США. Он требует остановить каждую на том уровне, которого она достигла в день подачи. Похожие требования к одной OpenAI уже выдвигали власти Флориды и восьми штатов.

Детали: иск на 63 страницах подали Public Citizen², Heat Initiative³, Alliance for Secure AI⁴ и Irreplaceable Education Fund. Их представляет фирма Мэтью Платкина, бывшего генерального прокурора Нью-Джерси. «Разрабатывать и выпускать продукты, о которых компании знают, что они хоть в чём-то небезопасны, — явно незаконно», — заявил Платкин.

Истцы просят суд:

• Немедленно запретить компаниям разрабатывать и выпускать системы сильнее самых мощных, что были у них на день подачи иска.
• Запретить им поручать ИИ самостоятельно вести или направлять исследования, из которых получаются более сильные модели.
• Разрешить вернуться к такой работе, только когда компании докажут, что технология под контролем человека. Так эту часть пересказывает Al Jazeera.

Как это работает: истцы опираются не на новый закон об ИИ, а на калифорнийский закон о недобросовестной конкуренции. По их словам, компании угрожают здоровью людей и мешают пользоваться чужим имуществом, например компьютерными системами, то есть причиняют вред всему обществу. В американском праве это отдельное нарушение — причинение общественного вреда. Главный довод — слова самих руководителей: в иске приводится оценка главы Anthropic Дарио Амодеи, который в 2025 году видел один шанс из четырёх, что будущее ИИ сложится «очень, очень плохо». А Маск, напоминает AP, ещё в 2023 году говорил Fox News, что ИИ может привести к «уничтожению цивилизации».

«Ни одной другой отрасли не позволено считать неизбежной разработку собственных небезопасных продуктов — тем более таких, что могут всех нас убить»

из текста иска четырёх НКО

Общая картина: иск подан после нескольких случаев, когда ИИ-агенты выходили из тестовой среды и проникали в чужие системы. Такие программы не только отвечают на вопросы, но и сами действуют в компьютерных сетях. По описанию Just Security, истцы упоминают, в частности, государственную базу медицинских данных и данные о подсчёте голосов в одном из штатов. AP напоминает об июльском эпизоде: тогда модели OpenAI во время проверки на кибератаки вышли из тестовой среды и проникли в инфраструктуру другой ИИ-компании, Hugging Face.

Расклад: 28 сентября генеральный прокурор Флориды попросил суд запретить OpenAI разрабатывать новые модели без внешнего надзора. Решения по этому ходатайству пока нет. 14 октября генпрокуроры восьми штатов подали к OpenAI иск. Среди прочего они просят запретить ей создавать модели, способные улучшать сами себя, пока компания не докажет, что эти модели следуют человеческим ценностям.

Интрига: два месяца назад четыре из пяти этих компаний обвинили в обратном. 18 сентября подписчики ChatGPT, Claude, Grok и Gemini подали федеральный антимонопольный иск. По их версии, Anthropic, OpenAI, Google и ИИ-компания Маска незаконно договорились замедлить развитие ИИ. Поводом стало эссе Амодеи от 12 сентября с призывом к отраслевому замедлению ради безопасности. С ним в тот же день публично согласились глава OpenAI Сэм Альтман, Маск и глава Google DeepMind Демис Хассабис, утверждают те истцы.

Если шире: иск подан вскоре после промежуточных выборов, на которых демократы вернули себе контроль над Конгрессом, пишет AP. Демократы обещают регулировать ИИ, а Трамп пока призывает компании самим следить за безопасностью, хотя допускает и дополнительные ограничения. «Мы не можем ждать, пока законодатели начнут действовать. Защиту должны дать суды», — заявила Al Jazeera одна из организаций-истцов.

Но: добьются ли НКО такого запрета — вопрос спорный. Частный истец по калифорнийскому закону о недобросовестной конкуренции должен показать, что сам потерял деньги или имущество. А запретов в делах об общественном вреде обычно добиваются власти. Сами истцы говорят, что настоящая заморозка требует большего. «Нужны государственные проверки и право останавливать запрещённую работу, а не только запрет на публичный выпуск моделей», — сказал Al Jazeera основатель Irreplaceable Education Fund Фил Аронеану.

Компании на запросы AP сразу не ответили. Meta отказалась от комментариев, остальные сразу не ответили и на запросы Reuters. О дате заседания пока не сообщалось.