Главный учёный OpenAI Якуб Пахоцкий призвал к мировой координации в сфере безопасности ИИ
Главный научный сотрудник OpenAI Якуб Пахоцкий в колонке «Чужой разум» пишет, что всё труднее держать сильный ИИ под контролем. Он предлагает усилить защитные меры и договариваться об этом на международном уровне.
Якуб Пахоцкий, главный научный сотрудник OpenAI, выпустил колонку «Чужой разум» (An Alien Mind). Его тема — как удержать под контролем ИИ, который становится всё способнее.
Пахоцкий рассуждает о выравнивании: как добиться, чтобы модель делала то, чего от неё хотят люди. Сам он считает, что для этого нужны более сильные защитные меры и координация между странами.
Колонка вышла 6 сентября, через три дня после выхода GPT-6 Astra. Это первая модель OpenAI, которую сама компания оценила как «критическую» по киберугрозам. Независимые исследователи безопасности уже пожаловались, что ход рассуждений Astra всё труднее прочитать. На таком фоне о «чужом разуме» пишет человек, который руководит исследованиями в самой OpenAI.