модель · Google · вышла 2 апреля
Gemma 4 26B A4B IT
Открытая модель Google со смесью экспертов для чата, кода и агентов: отвечает быстро и запускается на одной видеокарте
О модели
Gemma 4 26B A4B — открытая модель из линейки Gemma 4, версия, дообученная выполнять инструкции. Она устроена как смесь экспертов (mixture of experts): модель состоит из множества небольших подсетей, и на каждом шаге работает лишь часть из них. Всего у неё 25,2 млрд параметров, из них одновременно работают около 3,8 млрд: 8 экспертов из 128 и ещё один общий. Около 550 млн параметров занимает визуальный кодировщик, через который модель понимает картинки.
В линейке Gemma 4 пять размеров. Малые E2B, E4B и 12B рассчитаны на слабое железо и понимают звук, а у 26B A4B и 31B звука нет. Главное отличие 26B A4B от плотной 31B — скорость. Google пишет, что по задержке она ведёт себя как модель на 4 млрд параметров, а по качеству выигрывает от всех 26 млрд. Плотную 31B компания советует брать, когда важнее качество и нужна основа для дообучения. В рейтинге открытых моделей Arena AI 26B A4B на момент анонса стояла шестой, а 31B — третьей.
Модель берут, чтобы запускать у себя: для чат-ботов, пересказа текстов, извлечения данных из изображений, программирования и агентов. Она умеет вызывать функции, выдавать ответ в формате JSON и следовать системным инструкциям. По замерам Google, она набирает 82,6% в MMLU Pro, 88,3% в AIME 2026, 77,1% в LiveCodeBench и 82,3% в GPQA Diamond. Веса без сжатия помещаются на одну видеокарту NVIDIA H100 с 80 ГБ памяти. Квантизованные версии, то есть сжатые за счёт меньшей точности чисел, работают на обычных игровых видеокартах.
Веса выложены под лицензией Apache 2.0, она разрешает и коммерческое применение. Сама Google предупреждает, что модель может выдавать неверные факты, хуже справляется со сложными открытыми задачами и тонкостями языка, а здравый смысл у неё ограничен. Для телефонов она слишком тяжела: ей нужен сервер или мощная рабочая станция. С длинными текстами модель справляется заметно слабее: в тесте MRCR v2 на поиск в длинном контексте она набирает 44,1%.
источники:Анонс Gemma 4 в блоге Google ↗Карточка модели на Hugging Face ↗
Рейтинг Epoch AIСводная оценка общих возможностей модели: статистическая модель выводит её из результатов на многих бенчмарках с учётом их сложностиПодробнее на английском ↗
весь рейтинг101место из 268индекс 142вероятный разброс 138–144
- DTBenchВопросы с выбором ответа по теории принятия решений в задачах вроде парадокса Ньюкома, где твой выбор говорит о выборе похожих на тебяСлучайный выбор даёт около 40%, так что это нижняя планка, а не ноль.Подробнее на английском ↗58,2%
- LMCAНасколько оценки моделью доводов в философии, теории решений и безопасности ИИ совпадают с оценками экспертовБалл — корреляция с оценками экспертов, умноженная на 100; практический потолок около 85, а не 100.Подробнее на английском ↗34,9%
- Chess Puzzles100 новых шахматных задач, позиция дана текстом: нужно найти единственный лучший ход по оценке движка StockfishПодробнее на английском ↗1,1%
- WeirdMLНеобычные задачи по машинному обучению: модель пишет код, который на выданных данных обучает классификатор, например для распознавания фигурБалл — средняя точность обученных моделью классификаторов, а не доля решённых задач.Подробнее на английском ↗35,2%
- OTIS Mock AIME 2024-202545 олимпиадных задач по математике из пробных экзаменов AIME школы OTIS; ответ — целое число от 0 до 999Подробнее на английском ↗82,2%
- GPQA diamond198 вопросов с выбором ответа по физике, химии и биологии уровня аспирантуры — такие, что ответ не найти поискомСлучайный выбор даёт 25%, а специалисты с учёной степенью в своей области набирают около 70%.Подробнее на английском ↗64,3%
Новости о модели
все упоминания · 28Модель Google на Gemma 4 исправляет, кто что сказал в расшифровке
Открытая модель Google на Gemma 4 исправляет в расшифровках разговоров, кому приписаны слова. По замерам авторов, она ошибается реже прошлой версии на основе Llama 3 8B.
Данные: models.dev (MIT) и Epoch AI (CC BY 4.0).