PauseAI
Международное общественное движение, выступающее за приостановку разработки наиболее мощных систем искусственного интеллекта до подтверждения их безопасности и установления демократического контроля. Объединяет волонтёров и местные сообщества, организует мирные акции в поддержку этой цели.
проверено по: pauseai.info ↗
См. также
- Future of Life InstituteАмериканская некоммерческая организация, которая стремится снизить крупномасштабные и экзистенциальные риски от преобразующих технологий — прежде всего ИИ, а также биотехнологий и ядерного оружия. Она выдаёт гранты, ведёт просветительскую работу и добивается регулирования в США, Евросоюзе и ООН. Среди основателей — физик Макс Тегмарк и программист Яан Таллинн; организация известна Асиломарскими принципами ИИ.
- Экзистенциальный рискЭкзистенциальный риск — угроза, реализация которой означала бы гибель человечества или необратимую утрату его потенциала, в отличие от пусть и крупной, но поправимой катастрофы. В дискуссиях об ИИ так называют сценарии, где развитие сверхмощных систем ведёт к потере людьми контроля над своим будущим.
- Политика ответственного масштабированияПубличная политика компании Anthropic, связывающая уровни опасных возможностей моделей (ASL) с обязательными мерами защиты и требованиями безопасности при их разработке и выпуске. Если нужные меры не обеспечены, компания обязуется приостановить дальнейшее масштабирование; по её образцу схожие рамочные политики принимали другие лаборатории.
- Обоснование безопасностиСтруктурированный документированный аргумент с доказательствами того, что система достаточно безопасна в заданных условиях разработки или эксплуатации (англ. safety case). Практика пришла из авиации, атомной энергетики и других критически важных отраслей; применительно к ИИ разработчик обосновывает приемлемость рисков конкретного обучения или выпуска модели.
В новостях
GPT-6 Astra напрямую правит числа внутри других нейросетей, показали в MIT
Международное движение, которое добивается паузы в разработке самых мощных моделей ИИ.