Брайан Кантрилл призвал экспертов не пугать публику концом света от ИИ

Пугать людей гибелью человечества от ИИ безответственно, если за словами нет экспертизы. С такой колонкой выступил инженер Брайан Кантрилл (Bryan Cantrill). Он ответил на твит бывшего сотрудника Anthropic Джейкоба Коксона. Коксон подтвердил, что многие исследователи компании считают: ИИ «может убить нас всех до конца десятилетия».

Кантрилл обращает внимание на то, как такие сценарии описывают. Объяснения всегда держатся на туманной экстраполяции в будущее. Коксон, например, называет «взлом критической инфраструктуры» и «биологическое оружие, способное вызвать вымирание», но никак не раскрывает эти примеры. «Коксон не эксперт ни в критической инфраструктуре, ни в биологическом оружии — ни, если уж на то пошло, в вымирании», — пишет Кантрилл.

Колонку он начинает с собственной истории. В молодости он по ошибке посеял необоснованную панику среди менее подкованных в технике коллег. Вывод, который он сделал тогда: публика по умолчанию доверяет специалистам, и этим доверием нельзя злоупотреблять. Ждать от людей понимания языковых моделей или биологии вымирания не стоит. Бремя доказательства лежит на том, кто делает заявление, и осторожнее всего нужно быть, когда поднимаешь тревогу.

Сомнения насчёт биологического оружия Кантрилл высказывал и в подкасте Oxide and Friends, куда приходил Саймон Уиллисон, который и обратил внимание на колонку. «Может, пусть по этому поводу выскажется биолог? Или кто-то с опытом работы с биологическим оружием?» — спрашивал он в эфире. По его словам, эта тема задевает его особенно сильно: она оставляет много простора воображению, а его люди заполняют страхом.

Спор разгорелся после ухода Коксона из Anthropic: тогда разговоры о вымирании от ИИ вышли далеко за пределы отрасли. Кантрилл не спорит, что ИИ важен. Он требует, чтобы громкие прогнозы подкрепляли знаниями о том, как именно всё может произойти.