Словарь
Законы масштабирования
Эмпирические зависимости, которые показывают, как качество нейросети растёт с увеличением числа параметров, объёма данных и вычислений на обучение (scaling laws). Обычно это степенные законы, поэтому каждое следующее улучшение требует многократно больше ресурсов. С их помощью лаборатории планируют размер моделей и бюджет обучения.