Future of Life Institute
Американская некоммерческая организация, которая стремится снизить крупномасштабные и экзистенциальные риски от преобразующих технологий — прежде всего ИИ, а также биотехнологий и ядерного оружия. Она выдаёт гранты, ведёт просветительскую работу и добивается регулирования в США, Евросоюзе и ООН. Среди основателей — физик Макс Тегмарк и программист Яан Таллинн; организация известна Асиломарскими принципами ИИ.
проверено по: futureoflife.org ↗
См. также
- Экзистенциальный рискЭкзистенциальный риск — угроза, реализация которой означала бы гибель человечества или необратимую утрату его потенциала, в отличие от пусть и крупной, но поправимой катастрофы. В дискуссиях об ИИ так называют сценарии, где развитие сверхмощных систем ведёт к потере людьми контроля над своим будущим.
- Ник БостромШведский философ, известный работами об экзистенциальных рисках, этике будущих технологий и сверхинтеллекте. Основал и много лет возглавлял Институт будущего человечества в Оксфордском университете; автор книг «Суперинтеллект» и «Глубокая утопия».
- СверхинтеллектГипотетический интеллект, чаще всего искусственный, который значительно превосходит человека почти во всех интеллектуальных областях: в науке, стратегическом планировании, творчестве и социальных навыках. От сильного ИИ (AGI) отличается тем, что AGI обычно понимают как ИИ, сопоставимый с человеком, а сверхинтеллект — как намного его превосходящий. Второе название — суперинтеллект (superintelligence).
В новостях
Глава Microsoft AI подписал декларацию за контроль людей над ИИ
Американская некоммерческая организация, которая изучает риски передовых технологий, прежде всего ИИ, и добивается их регулирования.