Глава Cohere назвал план Амодеи по замедлению ИИ картелем под видом заботы о безопасности
Эйдан Гомес считает, что Anthropic просит у властей антимонопольный иммунитет, чтобы крупнейшие лаборатории сами писали правила для всех. Он предлагает открытую международную оценку рисков и проверки, которые не зависят от размера компании.
Глава Cohere Эйдан Гомес выступил против плана Дарио Амодеи по замедлению ИИ. В колонке он называет этот план попыткой узаконить картель. «Волк в овечьей шкуре, картель, как его ни назови», — пишет Гомес о лабораториях, которые, по его словам, пугают публику, чтобы переписать правила конкуренции в свою пользу.
Суть претензии такая. Несколько крупнейших лабораторий из одной страны договариваются об общих стандартах и о том, как быстро должна развиваться технология. Обычно конкурентам запрещено сговариваться об ограничении выпуска, поэтому план просит у властей узкий антимонопольный иммунитет. Кроме того, по словам Гомеса, остальных разработчиков обяжут следовать этим договорённостям, хотя их самих никто не спрашивал. Особенно Гомесу не нравится обещание, что такая координация сохранит участникам коммерческое преимущество: выигрывают, по его мнению, нынешние лидеры рынка.
Гомес приводит два исторических примера. В 1975 году регулятор американского фондового рынка назначил три рейтинговых агентства, и через 25 лет их всё ещё было три — те самые, что потом дали высший рейтинг ипотечным бумагам перед кризисом. В Европе автопроизводители в 1985 году ради безопасности добились права решать, кто может продавать и обслуживать их машины. На то, чтобы это отменить, ушло около четверти века.
Взамен Гомес предлагает открытую международную оценку рисков, которую не ведёт ни одна страна в одиночку. Проверки должна финансировать государственная наука, а не проверяемые компании. Правила он предлагает привязывать к тому, что умеет система и где она работает, а не к размеру вычислений. По его словам, маленькая плохо настроенная модель в больнице — реальный риск уже сегодня, но режим, который следит только за передовыми моделями, её не заметит. Ещё Гомес требует обязательно сообщать о серьёзных инцидентах и запретить проверяющим брать деньги у тех, кого они проверяют.
Прогнозы о вымирании человечества Гомес называет «ощущениями, выраженными в десятичных дробях». Реальный вред, по его словам, уже причиняют, например, дешёвые инструменты клонирования голоса, с которыми мошенники обчищают счета пенсионеров. В конце колонки он переходит к собственному бизнесу: Cohere продаёт модели, которые банки, госорганы и оборонные ведомства запускают на своих серверах. Так что у спора о том, кто пишет правила, есть и коммерческая сторона — причём у обеих сторон.