software intelligence explosion
Гипотетический сценарий, в котором ИИ, способный полностью автоматизировать исследования и разработки в области ИИ, ускоряет прогресс только за счёт улучшения алгоритмов, методов обучения и данных, без роста вычислительных мощностей: каждое поколение моделей всё быстрее создаёт следующее. Это разновидность интеллектуального взрыва, при которой узким местом не становится оборудование; сценарий подробно разбирают исследователи организации Forethought.
проверено по: forethought.org ↗
См. также
- Рекурсивное самосовершенствованиеГипотетический процесс, в котором ИИ-система улучшает сама себя или создаёт более сильных преемников, а каждая новая версия делает это всё быстрее (recursive self-improvement, RSI). Этот сценарий связывают с «взрывом интеллекта» и появлением сверхинтеллекта. Пока на практике он не наблюдался, и его вероятность остаётся предметом споров.
- СверхинтеллектГипотетический интеллект, чаще всего искусственный, который значительно превосходит человека почти во всех интеллектуальных областях: в науке, стратегическом планировании, творчестве и социальных навыках. От сильного ИИ (AGI) отличается тем, что AGI обычно понимают как ИИ, сопоставимый с человеком, а сверхинтеллект — как намного его превосходящий. Второе название — суперинтеллект (superintelligence).
- AI Futures ModelОткрытая интерактивная количественная модель группы AI Futures Project, которая прогнозирует сроки появления ключевых возможностей ИИ: полной автоматизации программирования («автоматизированный программист»), ИИ-исследователя сверхчеловеческого уровня и сверхинтеллекта. Строится на экстраполяции наблюдаемого роста возможностей моделей (в первую очередь горизонта задач по методике METR) с учётом роста вычислительных мощностей и ускорения исследований самим ИИ. Пришла на смену моделям, лежавшим в основе сценария AI 2027.
В новостях
Исследователь Epoch AI оценил отставание китайских моделей в 6–8 месяцев
Гипотетический сценарий, в котором ИИ сам улучшает алгоритмы и методы обучения следующих моделей, и их возможности растут всё быстрее без соразмерного роста вычислительных мощностей.