Стартап AIUC привлёк $40 млн на проверку и страхование ИИ-агентов. Как это работает
Среди клиентов стартапа — Cursor, Harvey и ElevenLabs. Полис агента ElevenLabs, оценённый по стандарту AIUC-1, страхует Lloyd’s of London.
Стартап AIUC (Artificial Intelligence Underwriting Company) привлёк $40 млн в раунде серии A во главе с Ribbit Capital и First Harmonic. Об этом сооснователь и глава компании Руне Квист рассказал в подкасте Latent Space. AIUC проверяет ИИ-агентов по собственному стандарту AIUC-1, а вместе со страховщиками берёт на себя часть риска на случай, если агент ошибётся. Среди клиентов — редактор кода Cursor, юридический сервис Harvey, конструктор приложений Lovable и голосовая компания ElevenLabs.
«Совершенно очевидно, что главное ограничение для внедрения — это риск», — заявил Квист. По его словам, при посевном раунде это была лишь гипотеза, а сейчас она выглядит фактом.
В AIUC работают 20 человек. Квист был одним из первых продуктовых сотрудников Anthropic. Его сооснователь Раджив Даттани — бывший партнёр McKinsey по страхованию, затем он был операционным директором METR1. Раньше в AIUC вкладывались Нэт Фридман и Дэниел Гросс.
AIUC-1 собирает в одном документе опасения, из-за которых крупные компании не решаются на внедрение агентов: утечки данных, галлюцинации, взломы запросами. Требования в стандарте трёх видов: технические средства защиты, тесты независимой стороной и внутренние правила. Например, у компании должен быть сотрудник, отвечающий за провалы, и план, как сообщить о них клиентам. Наличие защиты проверяют аудиторы, такие как KPMG и Schellman. Насколько она работает, раз в квартал проверяет AIUC: прогоняет тысячи смоделированных атак и сценариев.
Сертификация занимает от трёх до десяти недель. Стандарт обновляется каждый квартал по итогам встреч с руководителями по рискам банков, больниц и объектов критической инфраструктуры. По оценке Квиста, к концу года в этом консорциуме могут быть представлены 50% компаний из Fortune 10002.
Страховку ElevenLabs риск по её голосовому агенту взял на себя Lloyd’s of London3. Lloyd's оценивает риск по AIUC-1, а результаты тестов AIUC влияют на цену полиса. Сама AIUC получает долю страховой премии. Конкурировать со страховщиками деньгами стартап не собирается: у них капитал дешевле, пояснил Квист.
Ведущий подкаста Шон Ван спросил, сколько он получит, если заплатит Cursor $20 в месяц, а написанный с помощью вайбкодинга код приведёт к авиакатастрофе с ущербом $200 млн. Квист ответил, что всё решает лимит полиса: чтобы претендовать на $200 млн, такое покрытие нужно заранее оплатить. Он напомнил дело Air Canada: чат-бот авиакомпании выдумал правила возврата денег, и суд признал его обещания обязательными для компании.
Следующим шагом AIUC собирается сертифицировать сами модели, а затем роботов. По словам Квиста, разработчики моделей знают о рисках больше властей, но у них есть стимул не всегда говорить правду, поэтому между ними нужен независимый посредник вроде рейтингового агентства Moody's. Даже после появления AGI, считает он, у лабораторий останется одна работа, которую они не смогут выполнять сами: «быть собственным сторожевым псом».