Альтман призвал Совбез ООН к общим стандартам безопасности ИИ
Глава OpenAI предложил странам общие правила оценки моделей, отчёты об инцидентах и защищённые каналы связи, чтобы сильный ИИ оставался под контролем людей.
тема · 95 новостей за 60 дней
#регулирование
Законы, суды и решения властей об ИИ: регулирование, авторское право, антимонопольные дела.
24 сентября четверг
23 сентября среда
Еврокомиссия предложила по умолчанию отключать детям ИИ-чат-ботов
По проекту KIDS Act дети в ЕС смогут сами заводить аккаунты в соцсетях с 15 лет, а чат-ботам запретят вызывать у них эмоциональную зависимость.
Британия возьмётся согласовать мировые стандарты безопасности ИИ
Премьер Британии Энди Бернем пообещал в ООН добиваться общих для мира правил безопасности ИИ и вместе с США защищать инфраструктуру с помощью ИИ.
Почти 30 стран без США и Китая призвали усилить надзор за передовым ИИ
Подписанты хотят обязательных проверок моделей до выпуска и предлагают обсудить международный орган надзора, но США и Китай к призыву не присоединились.
Верховный комиссар ООН призвал учитывать мнение детей при разработке ИИ
По словам Фолькера Тюрка, опрос тысяч детей в 49 странах показал: они боятся ИИ-подделок, эксплуатации личных данных и замены живого общения машинами.
22 сентября вторник
Эксперты ООН увидели во взломе Hugging Face риск потери контроля над ИИ
Научная группа ООН считает, что меры безопасности не поспевают за ИИ-агентами, а методы обучения могут приучить агентов ставить свои цели и скрывать действия.
Гутерриш призвал США и Китай вместе замедлить развитие ИИ
Генсек ООН сравнил гонку в ИИ с гонкой вооружений времён холодной войны и призвал ведущие страны выработать общие меры безопасности.
Албанезе подписал призыв Финляндии и Норвегии держать ИИ под контролем людей. США и Китай — нет
Австралия вошла в число стран, которые требуют обязательных проверок передовых моделей ИИ и предлагают обсудить создание международного органа надзора за ними. США и Китай призыв не подписали.
21 сентября понедельник
OpenAI призвала США возглавить работу над мировыми стандартами для ИИ
OpenAI предлагает странам вместе выработать правила оценки передовых моделей, надзора за ИИ-исследованиями и отчётов об инцидентах — без лицензий и обязательной проверки до выпуска.
Глава Microsoft AI подписал декларацию за контроль людей над ИИ
Мустафа Сулейман поддержал документ из 33 принципов. Один из них — запрет на разработку сверхинтеллекта, пока учёные не признают её безопасной.
RAND советует США сохранить свободу выбора на пути к сверхинтеллекту
Аналитики RAND разобрали семь стратегий, от гонки до защищённых поселений на случай катастрофы, и считают, что выбирать между ними пока рано.
Натан Ламберт рассказал конгрессменам о лидерстве Китая в открытых моделях
На китайские модели приходится больше 80% трафика открытых моделей на OpenRouter, и их упоминают больше чем в 40% статей по ИИ, подсчитал Натан Ламберт.
19 сентября суббота
OpenAI выпустила для Австралии план из шести пунктов по безопасности подростков в ИИ
OpenAI представила Australian Youth Safety Blueprint — план развития из шести направлений. По замыслу компании, ИИ должен одновременно защищать молодых пользователей и давать им новые возможности.
14 сентября понедельник
Глава Cohere назвал план Амодеи по замедлению ИИ картелем. Что он предлагает взамен
По мнению Эйдана Гомеса, стандарты безопасности ИИ должны писать правительства, учёные и независимые проверяющие. Лидеры рынка, получившие исключение из антимонопольных правил, для этого не годятся.
9 сентября среда
Крис Лихейн из OpenAI: окно для политики в области ИИ открыто, пора действовать
Крис Лихейн из OpenAI считает: чем сильнее модели, тем больше доказательств их безопасности нужно. Он призывает к общим стандартам и долгосрочным политическим решениям, пока окно для них ещё открыто.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.