Исследователь безопасности ИИ Пол Кристиано вошёл в совет OpenAI Foundation
Пол Кристиано вошёл в совет директоров OpenAI Foundation и в его Комитет по безопасности и защите. OpenAI называет его опыт в выравнивании, безопасности и стандартах ИИ.
В совете директоров OpenAI Foundation появился Пол Кристиано (Paul Christiano). Он также вошёл в Комитет по безопасности и защите при совете. OpenAI объявила о назначении 9 сентября.
Компания объясняет выбор его опытом в трёх областях: выравнивание ИИ, то есть умение заставить модель действовать в интересах людей, безопасность и стандарты. Это одно из самых известных имён в исследованиях выравнивания.
Комитет, куда попал Кристиано, следит за безопасностью моделей OpenAI. Назначение пришлось на горячее для компании время. В начале сентября OpenAI опубликовала обзор безопасности GPT-6 Astra и признала, что модель впервые достигла «критического» уровня в кибербезопасности по внутренней шкале рисков.