Darwin Gödel Machine
Исследовательская система самосовершенствующегося ИИ-агента (DGM) от Sakana AI и Университета Британской Колумбии. Агент для программирования на основе языковой модели сам переписывает свой код. Каждую новую версию проверяют на бенчмарках и сохраняют в растущий архив, из которого по принципу открытой эволюции выбирают основу для следующих вариантов. В отличие от теоретической машины Гёделя Юргена Шмидхубера, изменение принимается не после формального доказательства его пользы, а по результатам проверки на практике.
проверено по: sakana.ai ↗
См. также
- Gödel AgentИсследовательский фреймворк самосовершенствующегося агента на основе большой языковой модели, описанный в статье 2024 года. Во время работы агент читает и переписывает собственный код, в том числе логику, по которой он себя улучшает. Этим он отличается от систем, где алгоритм оптимизации заранее задан людьми. Идея восходит к теоретической машине Гёделя Юргена Шмидхубера.
- Sakana AIЯпонская ИИ-компания из Токио. Её основали в 2023 году Дэвид Ха, Ллион Джонс (один из авторов статьи, представившей архитектуру «трансформер») и Рен Ито. Разрабатывает модели по образцу природных процессов — эволюции и коллективного интеллекта, например эволюционное слияние моделей. Также создаёт системы для автоматизации научных исследований, такие как The AI Scientist.
- Юрген ШмидхуберНемецкий учёный в области ИИ, один из авторов рекуррентной сети LSTM (вместе с Зеппом Хохрайтером), научный директор швейцарской лаборатории IDSIA. Также известен ранними работами об искусственном любопытстве, когда агент учится, сам исследуя среду, и о метаобучении.
- Рекурсивное самосовершенствованиеГипотетический процесс, в котором ИИ-система улучшает сама себя или создаёт более сильных преемников, а каждая новая версия делает это всё быстрее (recursive self-improvement, RSI). Этот сценарий связывают с «взрывом интеллекта» и появлением сверхинтеллекта. Пока на практике он не наблюдался, и его вероятность остаётся предметом споров.
В новостях
35 исследователей описали пять ступеней к ИИ, который улучшает сам себя
Исследовательская система Sakana AI и Университета Британской Колумбии: агент для программирования переписывает собственный код, а удачные версии сохраняются и служат основой для следующих.