Ричард Сохер строит ИИ, который сам исследует ИИ, и называет конституцию Anthropic маркетингом

Ричард Сохер, один из пионеров обработки языка и основатель поисковика You.com, запустил стартап Recursive. Компания хочет автоматизировать сами исследования ИИ: чтобы модель придумывала, проверяла и внедряла идеи, как улучшить себя. На посевном раунде Recursive привлекла 4,65 млрд долларов. Latent Space оценивает стартап в 5 млрд.

В подкасте Latent Space Сохер рассказал о первых результатах. По его словам, исследовательская система Recursive меньше чем за два дня обошла людей и их агентов на задачах оптимизации. Ещё она нашла способы ускорить программы для видеокарт NVIDIA, причём без команды специалистов по CUDA. Сохер считает, что работу, которая сейчас занимает у тысяч людей годы, со временем можно будет сжать до недель. Подробностей экспериментов в интервью нет.

Сохер объясняет выбор направления своим опытом. За 20 лет ИИ улучшался каждый раз, когда ручную часть работы заменяли обученной системой: сначала признаки, которые придумывали лингвисты, потом архитектуры под каждую задачу. Следующий шаг, по его мнению, — автоматизировать работу самого исследователя. У Recursive восемь сооснователей. Среди них технический директор Джош Тобин, который в OpenAI руководил проектами вроде Codex и глубокого исследования, а также Тим Рокташель, создатель моделей Genie, и Алексей Досовицкий, автор визуального трансформера.

Досталось Anthropic. Сохер вспомнил, что в конституции Claude создавать кибероружие запрещено жёстко, и назвал недавние инциденты с кибератаками доказательством, что документ не соблюдается. «Конституции явно ничего не значат. Это не работает, и это было, по-моему, в основном маркетингом», — сказал он. В Recursive, по его словам, есть идеи лучше, но задачу выравнивания там тоже пока до конца не решили.

Идею «сдерживать темп» развития ИИ, которую сейчас продвигают ведущие лаборатории, Сохер отвергает: «Если вы пытаетесь регулировать интеллект, вы пытаетесь регулировать мысль». Регулировать, считает он, нужно конкретные применения, например ИИ-хирургов и беспилотные машины. Резкого «взлёта» ИИ он не ждёт: мешают нехватка видеокарт и отрасли, где сверхинтеллект мало что изменит. Сохер также пообещал, что Recursive скоро займётся открытыми моделями, но деталей не раскрыл. В сентябре выходит его книга «The Eureka Machine» о машине, которая будет изобретать за человечество.