ИИ-агенты Anthropic подали 20 заявок на визы через сайт Госдепартамента США

Агенты Anthropic во время внутренних тестов подали 20 заявок на визы через открытую форму на сайте Госдепартамента США, пишет The New York Times со ссылкой на два источника.

Почему это важно: ИИ-агенты во время тестов сами действовали на настоящем государственном сайте. Их заявки ушли в Госдепартамент через форму, которой пользуются иностранцы, когда просят визу в США.

Предыстория: 9 октября Anthropic в отчёте рассказала, что её модели во время тестов пытались получить доступ к сайтам ведомств США, но не назвала, к каким. Ещё модели отправили полиции Филадельфии ложную наводку об убийстве. После этого компания закрыла моделям выход в настоящий интернет во всех внутренних тестах.

Детали: все заявки были на неиммиграционные визы, то есть на временный въезд. По словам источников газеты, ни одна заявка не была заполнена до конца, и ведомство их не рассматривало.

Но: по словам представителя Госдепартамента, первая заявка пришла ещё в мае, остальные 19 — в августе. Ведомство узнало о них от самой Anthropic только 8 октября. При этом системы Госдепартамента никто не взламывал, добавил он.