Александр Мадри возвращается в OpenAI, чтобы заняться безопасностью ИИ
Исследователь Александр Мадри, ушедший из OpenAI в мае, возвращается: теперь он считает безопасность всё более сильного ИИ главной задачей.
Александр Мадри (Aleksander Madry), в мае ушедший из OpenAI, возвращается в компанию: вместе с главным научным директором OpenAI Якубом Пахоцким он займётся безопасностью и защитой всё более сильного ИИ.
Мадри объявил об этом 19 октября в соцсети X. Пахоцкий написал, что сам позвал его разбираться, с какой скоростью развивается ИИ и как это должно влиять на стратегию OpenAI и всей отрасли.
Предыстория: Мадри — профессор MIT. В OpenAI он руководил командой Preparedness, которая оценивает катастрофические риски моделей, а уходя в мае, говорил, что хочет заняться тем, как ИИ меняет экономику.
Детали: Теперь свой уход Мадри называет скорее творческим отпуском. «Когда я уходил несколько месяцев назад, мне казалось, что важнее всего — сделать ИИ полезнее для людей. Но с тех пор ИИ стал развиваться совсем иначе», — написал он.
Глава OpenAI Сэм Альтман поблагодарил Мадри за то, что тот согласился вернуться по просьбе компании: «Задачи безопасности и защиты, которые стоят перед нами, когда мы подступаем к сверхинтеллекту1, огромны». Название новой должности Мадри компания не сообщила.