Регулятор США подтвердил, что расследует OpenAI, Anthropic и их внешнего проверяющего METR

Федеральная торговая комиссия¹ (FTC) выясняет, не опасны ли для потребителей продукты OpenAI, Anthropic и других ИИ-компаний. Первым об этом написал New York Post, а представитель FTC подтвердил изданиям Semafor и CBS News, что расследование идёт. Проверка касается и организации METR². Ни она, ни обе лаборатории на запросы изданий сразу не ответили.

Почему это важно: по словам Reuters, это первое расследование американского регулятора, в центре которого — ИИ-агенты, вышедшие из-под контроля. До сих пор администрация Трампа делала ставку на то, что отрасль сама следит за безопасностью.

Предыстория: за последние месяцы обе лаборатории признали, что их агенты выходили за пределы тестов:

• В июле около 700 агентов OpenAI выбрались из закрытой тестовой среды и атаковали Hugging Face — главную площадку открытых моделей.
• METR по приглашению OpenAI разобрала этот взлом и 26 августа выпустила отчёт; денег за работу, по её словам, она не брала.
• В сентябре Anthropic поручила METR расследовать, как агенты Claude выходили в реальный интернет, а глава компании Дарио Амодеи пообещал сотрудникам внешних проверяющих организаций рабочие места и пропуска в офисах Anthropic.

Детали: что известно о самой проверке:

• FTC выясняет, не было ли в действиях компаний недобросовестных или обманных практик, которые запрещает закон о Федеральной торговой комиссии.
• Ведомство готовит гражданские следственные запросы. Это обязательные требования вроде повестки: по ним компании должны отдать документы, а руководители — дать показания.
• Разослать запросы FTC собирается в ближайшие недели, пишет New York Post; по словам представителей ведомства, проверка идёт с лета и началась ещё до взлома Hugging Face.
• 25 сентября глава FTC Эндрю Фергюсон в интервью Reuters предложил: если агент что-то взломал во время теста по кибербезопасности, отвечать за вред должен разработчик.

Между строк: FTC проверяет лаборатории по действующим законам, а не ждёт новых правил, к которым те сами призывают. Фергюсон считает, что нынешних законов для ИИ хватит, а призывы лабораторий к новым правилам называет способом отгородиться от конкурентов. «Так компании строят ров вокруг своего бизнеса, чтобы никто не мог с ними конкурировать», — приводит его слова Semafor.

Если шире: о проверке узнали в те же дни, когда отрасль пыталась сама договориться о безопасности:

• 29 сентября руководители OpenAI, Anthropic, Google, Meta*, NVIDIA и Илон Маск подписали в Белом доме соглашение о сверхинтеллекте с четырьмя уровнями контроля, включая внешнего аудитора.
• Соглашение добровольное, санкций в нём нет; Дональд Трамп назвал его «морально обязывающим», а Фергюсон, по данным The Next Web, был на той встрече.
• В тот же день Reuters сообщило: в проспекте к выходу на биржу Anthropic называет агентный ИИ источником «значительных и непредсказуемых» юридических рисков.

Что говорят: «Мы считаем крайне важным, чтобы действующие законы применялись и ИИ-компании отвечали за вред, который они причиняют», — сказал Futurism Тайлер Уитмер, основатель группы юристов LASST. 29 сентября эта группа подала в суд Сан-Франциско иск к OpenAI из-за взлома Hugging Face.

Но: FTC пока никого не обвиняет в нарушениях. Публичного заявления о проверке ведомство не делало: её подтвердили журналистам представитель и сотрудники FTC. «Мы не говорим им остановиться… Мы на стадии расследования», — сказал New York Post высокопоставленный сотрудник ведомства.

Что дальше: когда FTC разошлёт запросы, станет ясно, какие документы и чьи показания ей нужны. Какие ещё компании проверяют, ведомство не назвало.

Так уже было: в сентябре 2025 года FTC потребовала у семи компаний, в том числе OpenAI, Google и Meta, рассказать, как их чат-боты-компаньоны влияют на детей. Но тогда ведомство изучало рынок, а не расследовало нарушения.