Предобучение
Первый и самый ресурсоёмкий этап обучения нейросети, прежде всего большой языковой модели (pre-training). На нём модель учится на огромном массиве неразмеченных данных решать общую задачу, например предсказывать следующий токен в тексте. В результате получается базовая модель с общими знаниями и навыками, которую затем приспосабливают к конкретным задачам и нужному поведению дообучением.
проверено по: habr.com ↗
См. также
- ДообучениеДообучение (fine-tuning) — дополнительное обучение уже готовой, предобученной модели на небольшом наборе данных, чтобы приспособить её к конкретной задаче, области или стилю, не обучая с нуля. Дообучение также входит в более широкий этап постобучения (post-training), на котором из модели, просто продолжающей текст, делают послушного помощника: к нему относятся и обучение на инструкциях, и оптимизация по предпочтениям людей.
- Базовая модельЯзыковая модель сразу после предобучения на большом массиве текстов, до настройки на диалог и выполнение инструкций (base model). Она продолжает текст, а не отвечает на запросы. Её дообучают под конкретные задачи, из неё же делают чат-версии. Иногда так же переводят английское «foundation model» — крупную модель общего назначения, на основе которой строят другие продукты.
- Законы масштабированияЭмпирические зависимости, которые показывают, как качество нейросети растёт с увеличением числа параметров, объёма данных и вычислений на обучение (scaling laws). Обычно это степенные законы, поэтому каждое следующее улучшение требует многократно больше ресурсов. С их помощью лаборатории планируют размер моделей и бюджет обучения.
- ТокенТокен — минимальная единица текста, которой оперирует языковая модель: обычно это часть слова, целое слово или знак препинания. В токенах измеряют длину контекста и скорость генерации (токенов в секунду), а также тарифицируют работу коммерческих моделей.
В новостях
Baidu выложила модель ERNIE 5.5 Flash для дообучения, но не для ЕС, Британии и Южной Кореи
Первая и самая объёмная стадия обучения языковой модели: она учится предсказывать продолжение текста на огромном массиве данных. Вести диалог и следовать инструкциям модель учат уже потом, на дообучении.
Anthropic впервые вышла в операционную прибыль, следует из проспекта IPO
Первый и самый ресурсоёмкий этап обучения языковой модели: она учится предсказывать следующий токен на огромном массиве текстов, а потом её дообучают под конкретные задачи.
Один исследователь Mirendil с ИИ-агентами обучил модель для кода с нуля
Первый и самый дорогой этап обучения языковой модели: на огромном массиве данных она учится предсказывать продолжение текста. После него модель дообучают, чтобы она следовала инструкциям и вела диалог.
Суперкластер, где Meta обучила ИИ-модели Muse Wonder, вырастет до миллиона ускорителей
Первый и самый затратный этап обучения языковой модели: она учится предсказывать продолжение текста на огромном массиве данных. После него модель дообучают под конкретные задачи и поведение.
NVIDIA выпустила модель Dory, где часть слоёв работает по нескольку раз
Первый и самый объёмный этап обучения языковой модели: она учится предсказывать следующий токен на огромном массиве текстов. После него модель дообучают под конкретные задачи.
NVIDIA откроет набор текстов для обучения ИИ на 22 языках Индии
Первый и самый объёмный этап обучения языковой модели: на огромном массиве текстов она учится предсказывать следующий токен. Дообучение под конкретные задачи идёт уже после него.
Андрей Карпаты считает, что 6 млрд человек почти не сталкивались с ИИ. Что говорят данные
Первый и самый затратный этап обучения языковой модели: на огромном массиве текстов она учится предсказывать продолжение, а потом её дообучают под конкретные задачи.
Натан Ламберт считает, что ИИ станет сверхчеловеческим инженером, но не сверхинтеллектом
Первый и самый затратный этап обучения языковой модели: она учится предсказывать следующий токен на огромном массиве текстов. Затем модель дообучают под конкретные задачи и нужное поведение.
Институт Ai2 научил модели Alibaba и Meta читать текст по байтам, метод вышел в Nature
Первый и самый дорогой этап обучения языковой модели: она учится предсказывать продолжение текста на огромном массиве данных. После него модель дообучают под конкретные задачи.
Челси Финн считает, что роботам не хватает общего рецепта дообучения
Первый этап обучения модели на огромном массиве данных: после него модель многое умеет в общем виде. Под конкретные задачи и нужное поведение её затем настраивают дообучением.