Alliance for Secure AI
Американская некоммерческая организация, которая информирует общество и политиков о последствиях и рисках развития передового искусственного интеллекта. Выступает за обязательные меры безопасности при разработке и применении таких систем.
проверено по: secureainowfoundation.org ↗
См. также
- Future of Life InstituteАмериканская некоммерческая организация, которая стремится снизить крупномасштабные и экзистенциальные риски от преобразующих технологий — прежде всего ИИ, а также биотехнологий и ядерного оружия. Она выдаёт гранты, ведёт просветительскую работу и добивается регулирования в США, Евросоюзе и ООН. Среди основателей — физик Макс Тегмарк и программист Яан Таллинн; организация известна Асиломарскими принципами ИИ.
- PauseAIМеждународное общественное движение, выступающее за приостановку разработки наиболее мощных систем искусственного интеллекта до подтверждения их безопасности и установления демократического контроля. Объединяет волонтёров и местные сообщества, организует мирные акции в поддержку этой цели.
- Коалиция за безопасный ИИКоалиция за безопасный ИИ (Coalition for Secure AI, CoSAI) — открытое объединение компаний и экспертов по искусственному интеллекту и информационной безопасности, действующее в рамках международного консорциума OASIS Open. Разрабатывает рекомендации, методики и инструменты с открытым исходным кодом, которые помогают разработчикам и специалистам по безопасности защищать ИИ-системы при их создании, внедрении и эксплуатации.
- Передовой ИИСамые способные модели и системы ИИ общего назначения (англ. frontier AI): они решают широкий круг задач и достигают уровня самых продвинутых моделей своего времени или превосходят его. Их создают крупнейшие лаборатории, и именно с ними регуляторы и исследователи безопасности связывают главные риски технологии. Отдельную такую модель называют передовой моделью.
- Экзистенциальный рискЭкзистенциальный риск — угроза, реализация которой означала бы гибель человечества или необратимую утрату его потенциала, в отличие от пусть и крупной, но поправимой катастрофы. В дискуссиях об ИИ так называют сценарии, где развитие сверхмощных систем ведёт к потере людьми контроля над своим будущим.
В новостях
НКО просят суд заморозить разработку ИИ в пяти компаниях, пишет AP
Американская некоммерческая организация, которая рассказывает обществу и политикам о рисках передового ИИ.