Деланг: в 90% реальных задач API больших моделей — далеко не лучший выбор
Глава Hugging Face Клеман Деланг считает, что API языковых моделей избыточны для 90% реальных задач: они медленные, дорогие и плохо управляются. По его прогнозу, отрасль поймёт это в ближайшие годы.
Глава Hugging Face Клеман Деланг считает, что для 90% реальных задач API больших языковых моделей — далеко не лучший способ применять ИИ. По его словам, такие модели избыточны, медленны, дороги и плохо поддаются контролю. «Мы обнаружим это в ближайшие годы, когда ИИ повзрослеет и получит широкое распространение», — написал он в X. Это его прогноз, а не подсчёт: откуда взялись 90%, Деланг не объясняет.
Он ответил на пост о модели Jev. Автор поста удивился, как живо её приняли. По его словам, Jev «всего лишь классификатор», но классификатор, которому не нужно дообучение под задачу и который по уровню интеллекта близок к передовым моделям. Автор задался вопросом, какие ещё старые идеи машинного обучения стоит вернуть. «Много!» — ответил Деланг. Утром того же дня он уже писал по поводу Jev, что годами большие универсальные модели забирали на себя почти всё внимание отрасли, а будущее — за узкими моделями.