LinkedIn заменила часть моделей OpenAI своими, пишет The Information

LinkedIn перевела часть работы своего ИИ-агента для рекрутеров с моделей OpenAI на небольшие собственные. Так компании удалось удержать расходы на серверы на прежнем уровне, хотя клиентов стало больше. Об этом пишет The Information¹ со ссылкой на руководителей LinkedIn.

Почему это важно: LinkedIn принадлежит Microsoft и, по данным издания, пользуется моделями OpenAI без платы за лицензию. Но даже для неё большие модели оказались слишком дорогими в работе: деньги уходят на серверы, на которых модели отвечают на каждый запрос.

Повод: Hiring Assistant — агент, который сам ищет кандидатов на вакансию, оценивает их и пишет им от имени рекрутера. По словам вице-президента LinkedIn по разработке Прашанти Падманабхан, для поиска кандидатов, их сортировки и писем им компания обучила небольшие модели на ответах больших моделей OpenAI. Такой приём называют дистилляцией знаний. В основе новых моделей лежат открытые модели, но какие именно, издание не называет.

В цифрах: что известно из пересказов статьи The Information:

• Новые модели обходятся до 67% дешевле, чем год назад обходилась работа на моделях OpenAI. Эту оценку дала Падманабхан.
• Платных клиентов у Hiring Assistant стало больше 25 000, а в сентябре их было 20 000.
• За одного пользователя клиенты платят от нескольких сотен до более чем 1 000 долларов в месяц.

Но: новые функции LinkedIn по-прежнему сначала запускает на моделях OpenAI. Поэтому расходы в целом не сокращаются, а держатся на месте. Модели OpenAI с тех пор подешевели, и сравнивать свою экономию с нынешними ценами LinkedIn не стала.

Между строк: как пишет издание, договор Microsoft с OpenAI позволяет LinkedIn не только пользоваться моделями OpenAI, но и обучать на их ответах собственные. Другим компаниям OpenAI это, как правило, запрещает. По соглашению, о котором Microsoft и OpenAI объявили в октябре 2025 года, права Microsoft на модели OpenAI действуют до 2032 года. В конце октября The Information писала, что китайские лаборатории DeepSeek и Moonshot обучали свои модели на ответах GPT-6 Astra.

Общая картина: экономия на вычислениях стала для LinkedIn планом на целый год. В июле руководители компании говорили WIRED, что в финансовом году, начавшемся 1 июля, LinkedIn не будет наращивать парк видеокарт и вычислительные мощности, хотя функций, которым нужны вычисления, станет больше. По подсчётам компании, работа над эффективностью принесла за прошлый год около 24 млн долларов экономии. Это примерно столько, сколько стоит круглый год держать в работе 1 100 видеокарт.

Так уже было: в декабре 2024 года LinkedIn рассказывала о собственной модели EON-8B, сделанной на основе открытой Llama 3.1 8B от Meta*. По замерам компании, в одном из сервисов платной подписки Premium она обходилась в 75 раз дешевле GPT-4 и в 6 раз дешевле GPT-4o. Тогда же LinkedIn сообщала, что в Hiring Assistant EON-8B точнее GPT-4o mini сверяет кандидатов с требованиями вакансии.