Дэниел Кокотайло
Исследователь ИИ, в 2022–2024 годах работал в отделе OpenAI, который занимается вопросами управления ИИ. Ушёл, потерял доверие к тому, что компания будет вести себя ответственно, и отказался подписать соглашение о неразглашении критики, рискуя долей в компании. Руководит некоммерческой организацией AI Futures Project и стал одним из авторов сценария быстрого развития ИИ AI 2027.
проверено по: en.wikipedia.org ↗
См. также
- AI Futures ModelОткрытая интерактивная количественная модель группы AI Futures Project, которая прогнозирует сроки появления ключевых возможностей ИИ: полной автоматизации программирования («автоматизированный программист»), ИИ-исследователя сверхчеловеческого уровня и сверхинтеллекта. Строится на экстраполяции наблюдаемого роста возможностей моделей (в первую очередь горизонта задач по методике METR) с учётом роста вычислительных мощностей и ускорения исследований самим ИИ. Пришла на смену моделям, лежавшим в основе сценария AI 2027.
- Рекурсивное самосовершенствованиеГипотетический процесс, в котором ИИ-система улучшает сама себя или создаёт более сильных преемников, а каждая новая версия делает это всё быстрее (recursive self-improvement, RSI). Этот сценарий связывают с «взрывом интеллекта» и появлением сверхинтеллекта. Пока на практике он не наблюдался, и его вероятность остаётся предметом споров.
- СверхинтеллектГипотетический интеллект, чаще всего искусственный, который значительно превосходит человека почти во всех интеллектуальных областях: в науке, стратегическом планировании, творчестве и социальных навыках. От сильного ИИ (AGI) отличается тем, что AGI обычно понимают как ИИ, сопоставимый с человеком, а сверхинтеллект — как намного его превосходящий. Второе название — суперинтеллект (superintelligence).
В новостях
Натан Ламберт назвал вредным резонанс вокруг ухода Коксона из Anthropic
Бывший исследователь OpenAI, ушедший из компании из-за разногласий по безопасности. Руководит некоммерческой организацией AI Futures Project и известен сценариями быстрого развития ИИ.