Hugging Face выпустила Carbon-X — открытую модель, которая объясняет ДНК

Модель Hugging Face отвечает на вопросы о ДНК и в тестах авторов почти догоняет GPT-6.1 Sol, а ответ обходится примерно в 1 800 раз дешевле.

Hugging Face выпустила Carbon-X — открытую модель, которой можно прислать в чат последовательность ДНК и спросить по-английски, вызывает ли мутация болезнь и какой участок управляет работой гена. Веса выложены под лицензией Apache 2.0¹, о выпуске в соцсети X рассказал глава компании Клеман Деланг.

Почему это важно: по замерам авторов, ни одна другая открытая модель не подошла в задачах по ДНК так близко к закрытой GPT-6.1 Sol. Carbon-X помещается на одну видеокарту с 80 ГБ памяти, поэтому исследователи могут разбирать чувствительные и неопубликованные последовательности на своих серверах.

Детали: Carbon-X на 14,8 млрд параметров выросла из открытой модели Qwen3-14B от Alibaba.

Её дообучили на 302 млрд токенов²: последовательностях ДНК, текстах по биологии, обычных текстах на английском и примерах инструкций.
Текст модель разбивает на токены как обычно, а ДНК — кусками по шесть нуклеотидов. По словам Льюиса Танстолла из Hugging Face, так ДНК занимает примерно втрое меньше токенов, чем если бы её разбивали как обычный текст.
Модель отвечает сразу, без долгих рассуждений, поэтому на одну задачу у неё уходит мало токенов.
Её можно подключить как инструмент к другому ИИ-агенту, и тот сам будет спрашивать Carbon-X о ДНК. Для Claude Code и Codex CLI — агентов, которые пишут код, — выложен готовый навык: скрипт, через который агент задаёт Carbon-X вопросы о файлах с ДНК. Открытая модель Kimi K3 от китайской Moonshot AI, по словам Танстолла, набирает на 11,1 пункта больше, когда советуется с Carbon-X; тест он не назвал.

Интрига: труднее всего авторам было подобрать скорость обучения — настройку, от которой зависит, насколько сильно модель меняется на каждом шаге тренировки. При малой скорости модель сохраняла английский, но ДНК так и не выучивала и отвечала наугад, а при большой учила ДНК и забывала английский.

В цифрах: результаты из карточки модели.

В среднем Carbon-X решила 66,7% задач пяти тестов по ДНК — на 27 пунктов больше исходной Qwen3-14B; у GPT-6.1 Sol — 67,5%.
В оценке мутаций в участках, которые кодируют белки, и в продолжении последовательности Carbon-X обошла все проверенные модели, включая закрытые.
Разбор 2,4 млн вариантов неопределённой значимости³ из базы ClinVar⁴ обойдётся, по оценке авторов, примерно в 300 долларов, а у проверенных передовых моделей — от 32 тыс. до 4 млн долларов.
Цену задачи у закрытых моделей считали по обычным тарифам API, у Carbon-X — по скорости работы на ускорителе H200, час аренды которого стоит 5 долларов.

Общая картина: Деланг считает, что открытые модели сделают ИИ для биологии безопаснее, чем закрытые.

По его словам, ограничители крупных лабораторий в биологии мешают учёным, университетам, некоммерческим организациям и ведомствам здравоохранения, а злоумышленники обходят их легко.
Он пошутил, что ограничители одной из закрытых моделей не дали ему даже вычитать этот пост. Из-за такого порядка, по его словам, в ближайшие годы злоумышленники получат большой перевес над теми, кто соблюдает ограничения, — так же, как в кибербезопасности.
В сентябре он уже говорил, что главный риск в биологии исходит от нескольких самых мощных лабораторий, а открытые модели этот риск снижают.

«Сделаем передний край ИИ для биологии открытым, чтобы он был безопасным и полезным для всего мира, а не только для нескольких компаний»
Клеман Деланг, глава Hugging Face

Но: у модели есть ограничения, и часть из них авторы называют сами.

Клинической проверки модель не проходила, и авторы прямо пишут, что принимать по ней медицинские решения нельзя.
Все результаты — замеры самих авторов, а два из пяти тестов, FrontierVEP и NextBase, они составили сами.
Длинную ДНК модель пишет плохо: по карточке, она объясняет готовые последовательности, а придумывать новые её не учили.
Танстолл пишет, что модель идёт на ноутбуке через программу llama.cpp, но в карточке сказано обратное: llama.cpp не поддерживается, потому что токенизатор ДНК написан отдельным кодом на Python.

Hugging Face сделала Carbon-X вместе с пекинской Академией Чжунгуаньцунь, Институтом генетики и медицины Telethon и Неаполитанским университетом имени Фридриха II. В мае те же команды выпустили семейство Carbon — модели на 0,5–8 млрд параметров, обученные на геномах.