Anthropic просит суд пересмотреть запрет на Claude в Пентагоне, пишет CNBC

Anthropic 13 октября попросила полный состав апелляционного суда округа Колумбия¹ заново рассмотреть её спор с Пентагоном, который запретил Claude в военных проектах, пишут CNBC и Reuters.

Почему это важно: запрет на Claude — следствие статуса «риск для цепочки поставок», который Пентагон присвоил Anthropic. Этот ярлык задуман против поставщиков, способных саботировать системы или выкачивать данные, и впервые его получила американская компания. По словам Anthropic, он уже стоил ей миллиардов долларов потерянных заказов.

Повод: 25 сентября коллегия из трёх судей решением 2:1 оставила ярлык в силе. Сотрудникам Пентагона и подрядчикам по-прежнему нельзя пользоваться Claude в работе на министерство. Судья Грегори Кацас, к которому присоединилась Неоми Рао, написал, что отказы Claude выполнять задачи правительства дали Пентагону «достаточные основания» для такого вывода. Судья Карен Хендерсон не согласилась: по её словам, закон не считает риском «честное и открытое соблюдение подрядчиком своих ограничений».

Предыстория: спор начался вокруг военного контракта на сумму до 200 млн долларов.

• 24 февраля Пентагон потребовал, чтобы к 27 февраля Anthropic разрешила применять Claude для «любых законных целей».
• 26 февраля глава компании Дарио Амодеи отказался снимать два запрета: на массовую слежку за американцами и на полностью автономное оружие.
• 27 февраля Дональд Трамп велел федеральным ведомствам отказаться от технологий Anthropic, а глава Пентагона Пит Хегсет объявил её риском; формально статус присвоили 3 марта.
• Через несколько часов после заявления Трампа OpenAI объявила о сделке с Пентагоном: её модели будут работать в секретных сетях военных, по её словам — с теми же двумя ограничениями.

Детали: юристы Anthropic считают, что коллегия ошиблась в трёх вещах.

• Она превратила закон, «направленный против враждебных иностранных сил», в такой, что «по умолчанию распространяется на любого подрядчика правительства».
• Она позволила признать компанию угрозой из-за того, что при обучении, ещё до выпуска, в Claude заложили отказ от некоторых задач. А обучение перед выпуском, напоминает Anthropic, проходят все ИИ-модели.
• Она оставила в силе статус, который Пентагон присвоил «без какой-либо процедуры до этого». И не учла «прямых доказательств», что статус стал местью за высказывания Anthropic о безопасности ИИ.

Расклад: суды разошлись. Второй такой же статус Пентагон присвоил Anthropic по другому закону, и его оспаривали в Сан-Франциско. 27 августа судья Рита Лин окончательно запретила его применять: она признала статус незаконной местью в нарушение Первой поправки². «Пустые ссылки на национальную безопасность — не карт-бланш, чтобы наказывать критиков правительства и мстить им», — написала она.

Что говорят: юристы оценивали шансы на пересмотр ещё после сентябрьского решения.

• Чарли Буллок из аналитического центра Institute for Law & AI³ говорил Breaking Defense, что Верховный суд берёт лишь малую долю дел. О пересмотре полным составом он добавил: «Это тоже на усмотрение суда и тоже одобряется не так уж часто».
• В коллегии двое судей назначены Трампом, а в полном составе есть судьи, назначенные Трампом, Байденом, Обамой и Бушем. «Это делает его гораздо разнообразнее и непредсказуемее», — говорил адвокат Шон Тиммонс, бывший военный юрист.

Другая сторона: технический директор Пентагона Эмиль Майкл после сентябрьского решения написал в соцсетях, что военные «будут спать спокойнее, зная, что ни одна частная компания не встроит своё мнение в цепочку командования».

Что дальше: пока суд решает, брать ли дело на пересмотр, сентябрьское решение действует. Если суд откажет, у Anthropic останется только Верховный суд США.