Safe Superintelligence Inc.
Американская исследовательская компания, созданная для разработки безопасного сверхинтеллекта. Рассматривает развитие возможностей ИИ и обеспечение его безопасности как взаимосвязанные технические задачи.
проверено по: ssi.inc ↗
См. также
- СверхинтеллектГипотетический интеллект, чаще всего искусственный, который значительно превосходит человека почти во всех интеллектуальных областях: в науке, стратегическом планировании, творчестве и социальных навыках. От сильного ИИ (AGI) отличается тем, что AGI обычно понимают как ИИ, сопоставимый с человеком, а сверхинтеллект — как намного его превосходящий. Второе название — суперинтеллект (superintelligence).
- ВыравниваниеВыравнивание (alignment) — направление исследований и инженерной практики, задача которых сделать так, чтобы ИИ-система действовала согласно намерениям и ценностям людей, а не буквальной или искажённой трактовке поставленной цели. Противоположность — рассогласование, когда модель преследует посторонние цели или обходит задачу формально.
- Экзистенциальный рискЭкзистенциальный риск — угроза, реализация которой означала бы гибель человечества или необратимую утрату его потенциала, в отличие от пусть и крупной, но поправимой катастрофы. В дискуссиях об ИИ так называют сценарии, где развитие сверхмощных систем ведёт к потере людьми контроля над своим будущим.
В новостях
Главу инфраструктуры Meta сменит выходец из облачного бизнеса Amazon, пишут Bloomberg и Reuters
Американский стартап, который основал бывший главный научный сотрудник OpenAI Илья Суцкевер, чтобы создать безопасный сверхинтеллект.