Рекурсивное самосовершенствование
Гипотетический процесс, в котором ИИ-система улучшает сама себя или создаёт более сильных преемников, а каждая новая версия делает это всё быстрее (recursive self-improvement, RSI). Этот сценарий связывают с «взрывом интеллекта» и появлением сверхинтеллекта. Пока на практике он не наблюдался, и его вероятность остаётся предметом споров.
проверено по: en.wikipedia.org ↗
См. также
- СверхинтеллектГипотетический интеллект, чаще всего искусственный, который значительно превосходит человека почти во всех интеллектуальных областях: в науке, стратегическом планировании, творчестве и социальных навыках. От сильного ИИ (AGI) отличается тем, что AGI обычно понимают как ИИ, сопоставимый с человеком, а сверхинтеллект — как намного его превосходящий. Второе название — суперинтеллект (superintelligence).
- software intelligence explosionГипотетический сценарий, в котором ИИ, способный полностью автоматизировать исследования и разработки в области ИИ, ускоряет прогресс только за счёт улучшения алгоритмов, методов обучения и данных, без роста вычислительных мощностей: каждое поколение моделей всё быстрее создаёт следующее. Это разновидность интеллектуального взрыва, при которой узким местом не становится оборудование; сценарий подробно разбирают исследователи организации Forethought.
- Darwin Gödel MachineИсследовательская система самосовершенствующегося ИИ-агента (DGM) от Sakana AI и Университета Британской Колумбии. Агент для программирования на основе языковой модели сам переписывает свой код. Каждую новую версию проверяют на бенчмарках и сохраняют в растущий архив, из которого по принципу открытой эволюции выбирают основу для следующих вариантов. В отличие от теоретической машины Гёделя Юргена Шмидхубера, изменение принимается не после формального доказательства его пользы, а по результатам проверки на практике.
- Gödel AgentИсследовательский фреймворк самосовершенствующегося агента на основе большой языковой модели, описанный в статье 2024 года. Во время работы агент читает и переписывает собственный код, в том числе логику, по которой он себя улучшает. Этим он отличается от систем, где алгоритм оптимизации заранее задан людьми. Идея восходит к теоретической машине Гёделя Юргена Шмидхубера.
- Recursive SuperintelligenceАмериканская ИИ-лаборатория с офисами в Сан-Франциско и Лондоне. Её основали исследователи и предприниматели, ранее работавшие в OpenAI, Google DeepMind, Meta, Salesforce и Uber. Компания разрабатывает ИИ, который рекурсивно улучшает сам себя: сам находит свои слабые места и исправляет их с помощью открытых (open-ended) алгоритмов, без участия людей. Первая цель — автоматизировать сами исследования в области ИИ.
В новостях
GPT-6 Astra напрямую правит числа внутри других нейросетей, показали в MIT
Сценарий, в котором ИИ улучшает себя или своих преемников, и каждый такой шаг облегчает следующий.
Gemini 4 Carbon возглавила сторонние рейтинги, но в коде уступает Claude
Гипотетический процесс, в котором ИИ сам помогает создавать и обучать свои следующие версии, а каждая новая версия ускоряет появление следующей.
Выручка Google Cloud удвоилась, у приложения Gemini миллиард пользователей
Сценарий, в котором ИИ берёт на себя всё больше работы по созданию следующих версий ИИ, и каждая новая версия ускоряет разработку следующей.
Один исследователь Mirendil с ИИ-агентами обучил модель для кода с нуля
Гипотетический процесс, в котором ИИ всё больше берёт на себя собственную разработку, и каждая следующая, более сильная версия ускоряет создание следующей.
Sakana AI научила модель улучшать себя силами команды собственных копий
Сценарий, в котором ИИ-система сама улучшает методы, код или устройство, по которым создаётся её следующая версия, а та продолжает улучшать себя дальше.
Натан Ламберт считает, что ИИ станет сверхчеловеческим инженером, но не сверхинтеллектом
Гипотетический сценарий, в котором ИИ улучшает сам себя, а каждая улучшенная версия делает это ещё быстрее. Его считают возможным путём к «взрыву интеллекта».
Натан Ламберт не ждёт взрыва интеллекта. Anthropic резкого ускорения пока не видит
Сценарий, в котором ИИ сам создаёт более сильные версии себя, и каждое улучшение ускоряет следующее. Его сторонники считают, что он может привести к взрыву интеллекта — резкому росту возможностей ИИ, за которым люди не успеют следить.
Глава Hugging Face назвал главным риском ИИ концентрацию власти в нескольких лабораториях
Сценарий, в котором модели ИИ сами ведут исследования и разработку следующих, более сильных моделей. Процесс может ускоряться сам по себе, и снаружи его почти не видно.