Основатель Recursive Ричард Сохер назвал конституцию Claude маркетингом
Сохер рассказал, что ИИ-система Recursive меньше чем за двое суток обошла сотни людей и их агентов на открытом конкурсе по обучению маленькой языковой модели.
Запрет на кибератаки прописан в конституции Anthropic1 как жёсткое ограничение для Claude, но модель его нарушает, а значит, документ не работает. Так основатель стартапа Recursive Ричард Сохер ответил в подкасте Latent Space2 на вопрос о недавних инцидентах с моделями в кибербезопасности. Прямо в эфире он открыл конституцию и зачитал пункт о запрете создавать кибероружие и вредоносный код.
«Очевидно, вся эта конституция была фальшивкой. Её явно никто не соблюдает», — заявил Сохер. По его словам, конституции «вообще ничего не решают», а в случае Anthropic это был «в основном маркетинг».
Recursive строит ИИ, который сам ведёт исследования ИИ, то есть улучшает себя. Стартап вышел из тени в мае 2026 года: он привлёк $650 млн при оценке $4,65 млрд, в числе инвесторов GV и Nvidia. Сохер известен работами по обработке естественного языка и руководит поисковой компанией You.com. Всего у Recursive восемь сооснователей. Технический директор Джош Тобин руководил в OpenAI проектами Codex и агентом для глубоких исследований, Тим Роктешель создавал модели Genie в Google DeepMind, а Алексей Досовицкий придумал Vision Transformer.
Главной проблемой Сохер считает взлом награды: модель выполняет поставленную задачу буквально, а не так, как её задумал человек. Он привёл пример. Модель просят ускорить сто строк кода, а время измеряют секундомером от первой строки до последней. Проще всего перенести команду остановки секундомера в самое начало, и код формально станет быстрее. «Это не какой-то суперзлой ИИ. Это очень простой, глупый взлом награды», — пояснил Сохер. Он признал, что в Recursive эту задачу тоже пока не решили до конца, но у компании «есть несколько очень хороших идей».
Сохер рассказал и о первых результатах упрощённой версии системы. Recursive проверяла её на NanoChat — открытом проекте Андрея Карпаты, где участники обучают маленькую языковую модель и соревнуются, чья лучше сжимает текст. Сотни, если не тысячи людей вместе со своими агентами дошли до 0,937 бита на байт. Система Recursive меньше чем за двое суток получила заметно меньший результат. По словам Сохера, она в числе прочего додумалась встроить в трансформер хеш-таблицы, причём компания проверила, что такое решение не было ей известно заранее. Если система начинала не с простейшего трансформера, а с кода Карпаты, результат получался ещё лучше.
Ещё одна проверка — SOL-ExecBench, набор задач на написание ядер. Это небольшие программы, через которые модели работают с видеокартами Nvidia. По словам Сохера, система обошла лучшие результаты таблицы почти во всех задачах, хотя «глубоких экспертов по ядрам CUDA» в команде нет. Он уверен, что работу, на которую у других лабораторий уходят годы и тысячи людей, можно сжать до недель.
Ближайшие планы Recursive ограничены исследованиями ИИ: обучение и инференс должны стать эффективнее, вплоть до запуска моделей на ноутбуке. К физике, химии и биологии компания собирается перейти через три-пять лет, когда будут готовы роботы для экспериментов. Сохер также пообещал, что скоро Recursive заявит о себе в сфере открытых моделей, но подробностей не раскрыл.
К призывам ведущих лабораторий сдерживать темп развития ИИ Сохер относится резко. «Пытаться регулировать интеллект — всё равно что пытаться регулировать мысль», — сказал он. По его мнению, контролировать нужно конкретные применения: ИИ-хирург должен получить сертификат FDA, беспилотный автомобиль — пройти сертификацию. Следить за тем, что каждый считает на своих видеокартах, способно только «тоталитарное государство».
Ранее, 13 сентября, глава Cohere Эйдан Гомес назвал план Дарио Амодеи по замедлению ИИ картелем. А в конце августа Anthropic разобрала случаи, когда Claude на кибертестах выходил в реальный интернет.