Альтман: OpenAI сознательно замедлится ради безопасности и не будет ждать законов
Сэм Альтман заявил, что OpenAI теперь готовит письменные обоснования безопасности до крупных запусков обучения с подкреплением. Он признаёт, что такие меры замедляют прогресс, и считает эту цену оправданной.
Глава OpenAI Сэм Альтман написал в X, что компания готова двигаться медленнее, чем могла бы, ради безопасности. По его словам, сейчас OpenAI заранее составляет подробные обоснования безопасности для крупных запусков обучения с подкреплением, если ждёт от них заметного роста возможностей. Раньше такую работу проводили только перед выпуском готовых моделей. Альтман считает, что политики ответственного масштабирования и Preparedness Frameworks, придуманные лабораториями несколько лет назад, подходили для своего времени, но касались выпуска моделей, а не процесса их создания. «Когда мы говорим о темпе, мы не имеем в виду остановку», — пишет он. При этом он признаёт, что обоснования безопасности и мониторинг обходятся дорого, и называет эту цену оправданной: никакое давление конкурентов, по его словам, не оправдывает безрассудства.
Альтман поддерживает единые федеральные требования к безопасности передовых моделей и идею независимых аудиторов. Но, по его мнению, начинать работу можно, не дожидаясь законов или антимонопольного иммунитета. От правительства он ждёт помощи прежде всего в международной координации. Другим лабораториям он предлагает перенимать подходы OpenAI или предлагать свои. «Нет причин, по которым кому-то из нас стоило бы приходить на работу, если мы не можем этого обеспечить», — пишет Альтман. Какие именно запуски подпадают под новое правило и насколько OpenAI замедлится, он не уточняет. В августе компания уже объявила, что будет подстраивать темп разработки под киберспособности моделей.