Gödel Agent
Исследовательский фреймворк самосовершенствующегося агента на основе большой языковой модели, описанный в статье 2024 года. Во время работы агент читает и переписывает собственный код, в том числе логику, по которой он себя улучшает. Этим он отличается от систем, где алгоритм оптимизации заранее задан людьми. Идея восходит к теоретической машине Гёделя Юргена Шмидхубера.
проверено по: arxiv.org ↗
См. также
- Darwin Gödel MachineИсследовательская система самосовершенствующегося ИИ-агента (DGM) от Sakana AI и Университета Британской Колумбии. Агент для программирования на основе языковой модели сам переписывает свой код. Каждую новую версию проверяют на бенчмарках и сохраняют в растущий архив, из которого по принципу открытой эволюции выбирают основу для следующих вариантов. В отличие от теоретической машины Гёделя Юргена Шмидхубера, изменение принимается не после формального доказательства его пользы, а по результатам проверки на практике.
- Юрген ШмидхуберНемецкий учёный в области ИИ, один из авторов рекуррентной сети LSTM (вместе с Зеппом Хохрайтером), научный директор швейцарской лаборатории IDSIA. Также известен ранними работами об искусственном любопытстве, когда агент учится, сам исследуя среду, и о метаобучении.
- Рекурсивное самосовершенствованиеГипотетический процесс, в котором ИИ-система улучшает сама себя или создаёт более сильных преемников, а каждая новая версия делает это всё быстрее (recursive self-improvement, RSI). Этот сценарий связывают с «взрывом интеллекта» и появлением сверхинтеллекта. Пока на практике он не наблюдался, и его вероятность остаётся предметом споров.
- ИИ-агентПрограмма, обычно на основе языковой модели, которая не просто отвечает на вопрос, а сама выполняет многошаговую задачу: планирует шаги, вызывает инструменты и внешние сервисы, работает с файлами и данными и учитывает промежуточные результаты. От обычного чат-бота отличается самостоятельностью: человек ставит цель, а последовательность действий агент выбирает сам.
В новостях
35 исследователей описали пять ступеней к ИИ, который улучшает сам себя
Исследовательский агент на основе языковой модели, который может переписывать собственный код, в том числе логику, по которой он себя улучшает.