ИИтак

← Назад

Словарь

Mamba-2

Архитектура слоя модели на основе структурированных пространств состояний (state space model), предложенная Три Дао и Альбертом Гу как развитие Mamba. Вместо внимания хранит сжатое состояние фиксированного размера, поэтому вычисления и память растут линейно с длиной последовательности, а не квадратично.

← Весь словарь