Глава Hugging Face назвал главным риском ИИ концентрацию власти в нескольких лабораториях

Клеман Деланг, глава Hugging Face, 18 сентября написал в X, что главный риск ИИ, по его мнению, — концентрация власти в руках нескольких лабораторий. Так он ответил на чужой пост, автор которого опасается, что в период рекурсивного самосовершенствования лаборатории просто перестанут открывать доступ к своим моделям для внешних пользователей.

Автор исходного поста рассуждает так: если это случится, компании продолжат на полной скорости развивать самое опасное применение моделей — их работу над улучшением самих себя. Общество при этом не будет знать, на что способны эти системы и насколько надёжно они выровнены. В итоге, по его словам, всё придёт к огромной концентрации власти. Деланг не приводит сроков, названий компаний и доказательств, что какая-то лаборатория уже так поступает. Это оценка рисков, а не рассказ о случившемся.

Сейчас эта тема на слуху. Незадолго до поста Сэм Альтман назвал слишком большую власть в одних руках одним из двух сценариев, которых OpenAI хочет избежать. А Anthropic предложила лабораториям публично раскрывать, как быстро ИИ развивается внутри них. Позиция Деланга понятна: Hugging Face — главная площадка для моделей с открытыми весами, и компания давно выступает за открытость как противовес закрытым лабораториям.