Сулейман назвал тревожным план Делавэра доверить ИИ-агентам управление компаниями

«Меня это глубоко тревожит», — написал в соцсети X глава ИИ-подразделения Microsoft Мустафа Сулейман о проекте Делавэра. По этому проекту компанией сможет управлять ИИ-агент, а не человек. «Нам стоит быть здесь очень осторожными», — добавил он.

Почему это важно: Делавэр — главное место регистрации американских компаний: здесь зарегистрированы около двух третей компаний из списка Fortune 500, крупнейших в США по выручке. Проект дал бы владельцу способ поручить бизнес программе и по общему правилу не отвечать за её решения.

Повод: Сулейман сослался на статью Ars Technica о том, что 26 октября проектом заинтересовался комитет Палаты представителей. Из статьи он процитировал описание новой формы компании, которое дали сами власти штата. Сулейман и раньше выступал за то, чтобы ИИ оставался под контролем людей: в сентябре он подписал декларацию из 33 принципов на эту тему.

Как это работает: новую форму называют AIC (Artificial Intelligence Company — «компания искусственного интеллекта»). Это отдельное юридическое лицо, и его повседневными делами ведает агент. По решению агента AIC от своего имени подаёт иски, владеет имуществом и берёт обязательства. А если иск подают против AIC, ответчиком тоже выступает она сама. Заниматься она может любым законным делом, кроме банковского. Участник у неё один, человек или компания: он вкладывает деньги, получает прибыль и следит, чтобы капитала хватало. Сама AIC обязана вести журнал своих действий.

Но: по проекту участник «не отвечает ни за какое действие или бездействие AIC». Отвечать ему придётся в трёх случаях:

• Он использовал компанию для мошенничества или умышленного нарушения закона.
• Он не обеспечил её достаточным капиталом.
• Он позволил AIC вести дела, хотя знал или должен был знать, что они выходят за рамки заявленной цели.

Расклад: 26 октября республиканец Джеймс Комер, председатель комитета Палаты представителей по надзору и правительственной реформе, запросил у губернатора Делавэра, демократа Мэтта Мейера, документы о подготовке проекта и о рисках для безопасности. Комер опасается, что AIC защитит «влиятельные ИИ-компании и их инвесторов от ответственности за безрассудные вредные действия». Под защитой, по его мнению, окажутся и «непрозрачные силы», которые стоят за ИИ-инициативами штатов и добиваются регуляторного захвата¹. Комер допустил, что выводы проверки лягут в основу федеральных законов, в том числе таких, что ограничат право штатов регулировать ИИ. В офисе Мейера ответили, что письмо получили и изучают.

Другая сторона: идею в июле представила секретарь штата² Делавэр Чаруни Патибанда-Санчес в колонке для Fortune. Соавтор колонки — Джон Ней, основатель и глава Norm³. Правила работы бизнеса с AIC разрабатывают в партнёрстве штата с частным сектором, и возглавляет это партнёрство его компания. Авторы пишут, что законы ряда штатов и сейчас явно не мешают агенту вести компанию без человека, а запрещать это бесполезно. «Решение — облечь ИИ в правовую форму», — считают они. Тогда у ответственности и исков об ущербе появится понятный адресат, а действия агента станут видны и отслеживаемы.

Между строк: новая форма принесла бы штату деньги от налогов и регистрационных сборов. «Если появится новая форма юридического лица, это огромная польза для доходов нашего штата», — говорила Патибанда-Санчес в июне.

Что говорят: профессор права Калифорнийского университета в Беркли Эндрю Бейкер сказал Financial Times, что проект, похоже, даёт «чрезмерно щедрую защиту от ответственности», а её смысл толком не обосновали. Мартин Петрин, профессор права Йоркского университета в Торонто, ждёт, что похожие проекты выдвинут и другие штаты, чтобы не проиграть конкуренцию за компании. По его словам, общие федеральные правила помогли бы снять опасения о безопасности и о «гонке на понижение» между штатами.

Что дальше: Комер ждёт документы до 9 ноября. Законопроект, по данным издания Spotlight Delaware, могут внести в законодательное собрание штата в 2027 году. Сначала AIC предлагают 30 месяцев испытывать в регуляторной песочнице — пробном режиме под надзором штата, где систему можно отключить.

Губернатор Мейер публично поддержал идею ещё в апреле, когда ответил на пост предпринимателя Марка Кьюбана. Тот написал, что на месте губернатора дал бы любому регистрировать компанию через ИИ-агента и с оплатой в стейблкойнах⁴: «Кто первым выйдет на рынок, озолотится». Официальный аккаунт Мейера ответил: «Уже занимаемся».