Брайан Кантрилл призвал экспертов по ИИ осторожнее говорить о вымирании

Специалисты по ИИ, которые пугают публику гибелью человечества, злоупотребляют доверием к экспертам. Так считает сооснователь и технический директор Oxide Computer Брайан Кантрилл, пишет Саймон Уиллисон. Эссе Кантрилла «Заразность страха» — ответ на пост Джейкоба Коксона в соцсети X. Бывший сотрудник Anthropic подтвердил, что многие исследователи компании считают: ИИ «может убить нас всех до конца десятилетия».

Oxide Computer — американская компания, которая делает серверные стойки для собственных дата-центров заказчиков.

«Коксон не эксперт ни по критической инфраструктуре, ни по биооружию — и, если уж на то пошло, ни по вымиранию», — пишет Кантрилл. По его словам, на вопрос, как именно это случится, всегда отвечают размытыми прогнозами. Коксон называет «взлом критической инфраструктуры» и «биооружие уровня вымирания», но ничего не поясняет.

Кантрилл признаётся, что в молодости сам по ошибке вызвал необоснованную панику среди менее технически подкованных коллег. От публики нельзя ждать, что она разберётся в языковых моделях, инфраструктуре и биологии, считает он: доказывать заявление должен тот, кто его делает. «Эксперты благодаря своей экспертизе неявно пользуются доверием публики — и мы не должны им злоупотреблять», — подчеркнул он.

О биооружии Кантрилл говорил и в недавнем выпуске своего подкаста Oxide and Friends, где гостем был Уиллисон. «Можно, пожалуйста, чтобы об этом высказался биолог? Или кто-то с опытом работы с биооружием?» — спросил он. Эта тема задевает его особенно: по его словам, она оставляет много места воображению, и его заполняет страх.

Ранее, 10 сентября, Натан Ламберт объяснял, почему уход Коксона из Anthropic разжёг страх перед вымиранием от ИИ далеко за пределами отрасли.