Claude в среднем вчетверо ускорила 30 с лишним моделей для биологов

Меньше чем за четыре недели модель Claude в среднем вчетверо ускорила больше 30 открытых моделей, которыми биологи предсказывают строение белков и проектируют молекулы. Об этом Anthropic сообщила 17 сентября.

Почему это важно: такие модели нужны для разработки лекарств, но их дорого запускать. В посте в соцсети X Anthropic пишет, что из-за этого их польза может быть ограничена. Весь код ускоренных версий компания открыла.

Предыстория: раньше Anthropic показала, что Claude умеет проектировать белки-связыватели — маленькие белки, которые прочно цепляются к нужной молекуле. Но на каждую мишень модели разрешали тратить до 10 000 долларов на облачной платформе Modal. Это около 2 500 часов работы видеокарты NVIDIA H100.

Как это работает: в AlphaFold 3¹, OpenFold3, Boltz-2 и похожих моделях больше всего времени и памяти уходит на две операции: треугольное внимание и треугольное умножение. Они перебирают тройки элементов молекулы. Поэтому, если система вдвое больше, времени и памяти нужно в 8 раз больше.

Claude ускорила модели так:

• Вместе с сотрудниками написала FlashPairformer — набор ядер, то есть низкоуровневых программ для видеокарт, которые ускоряют именно эти две операции.
• Треугольное внимание FlashPairformer считает в 2,7–2,9 раза быстрее принятого в отрасли стандарта, а умножение — в 1,7–3,2 раза, в зависимости от настроек модели.
• Кроме того, в каждой модели Claude убрала лишнюю работу: повторные пересчёты одного и того же и ветви кода, которые всегда выдают одно и то же значение.

В цифрах:

• При минимальной потере точности модели в среднем стали примерно вчетверо быстрее, а при ответах, полностью совпадающих с исходными, — почти вдвое.
• На 30 с лишним моделей для структуры белков, их дизайна и геномики ушло меньше четырёх недель, хотя обычно команда инженеров тратит недели на каждую.
• Работу в среде Claude Science² направляли два сотрудника Anthropic. Они разбираются в биомолекулах, но никогда не ускоряли модели и не писали программ для видеокарт.

Интрига: ещё Claude сделала режим Big, который экономит память. Всего на одном сервере с видеокартами NVIDIA он точно предсказывает системы больше 10 000 токенов — аминокислот, нуклеотидов и атомов. Так Claude рассчитала митохондриальный комплекс I человека и бактериальную рибосому, и результаты близки к структурам, полученным в экспериментах. Для сравнения: рибосома 40S, которую точно предсказала AlphaFold 3, состоит из 7 663 токенов.

Детали: затем Anthropic повторила опыт с белками-связывателями на ускоренных моделях, но в куда более скромных условиях:

• У модели были одна видеокарта H200 и сутки. Запрос сократили примерно до 1 100 слов вместо 16 000, субагентов и участия людей не было.
• На 16 мишенях Mythos 5.1, Mythos 5 и Opus 5 получили за свои проекты примерно такие же оценки, как в прошлых кампаниях Mythos 5.1.
• Часов работы видеокарт ушло примерно в сто раз меньше. Вместе с оплатой токенов тот же уровень результатов обошёлся примерно в 150 долларов.

Но: проекты белков оценивали только на компьютере — по баллу ipSAE. Исследования показали, что он предсказывает, свяжется ли белок с мишенью в лабораторных опытах. А вирусные капсиды размером от 31 000 до 70 000 токенов Claude на сервере с восемью видеокартами B300 посчитать смогла, но предсказала неверно: они почти в сто раз больше того, на чём обучались модели.

Что дальше: Anthropic и Adaptyv Bio³ запускают конкурс по дизайну белков из пяти трудных задач. Среди них — белки, чувствительные к кислотности среды, и белки, которые узнают мишень у разных биологических видов.

Условия конкурса:

• Adaptyv проверит в своей лаборатории больше 5 000 проектов белков, которые пришлют участники.
• Anthropic выделит участникам до 1 млн долларов в кредитах на Claude и деньги на лабораторную проверку.
• Modal даст до 250 000 долларов в кредитах на вычисления, а Twist Bioscience предоставит ДНК для опытов.

В тот же день Anthropic открыла в бета-версии программу, по которой проверенные лаборатории и фармкомпании получают модели Claude без части биологических фильтров.