Еврокомиссия признала первый стандарт для соблюдения закона ЕС об ИИ
Компании, которые выпускают системы ИИ высокого риска и следуют стандарту EN 18286, по умолчанию считаются выполнившими требования закона ЕС об ИИ к управлению качеством.
тема · 95 новостей за 60 дней
#регулирование
Законы, суды и решения властей об ИИ: регулирование, авторское право, антимонопольные дела.
19 октября понедельник
18 октября воскресенье
Anthropic предлагает Конгрессу свой закон о безопасности ИИ, пишет Politico
По проекту Anthropic остановить ИИ-модель сможет только суд по иску Минторга США и только при угрозе биооружия, кибератаки или выхода модели из-под контроля.
16 октября пятница
Британский регулятор предложил особый надзор за Windows, Office и Copilot
Если британский регулятор утвердит решение к февралю, он сможет устанавливать для Microsoft обязательные правила. Одна из первых тем — равные условия для соперников ИИ-помощника Copilot.
Тайвань ограничит вывоз ИИ-чипов в Китай вслед за США, пишет Bloomberg
Тайвань собирается подстроить экспортный контроль под американский: за вывоз ИИ-серверов в Китай без разрешения будет грозить уголовное дело, сказал Bloomberg министр экономики.
Минцифры предлагало блокировать VPN с помощью ИИ, пишет «Коммерсантъ»
По данным «Коммерсанта», в черновике нацплана внедрения ИИ была цель, чтобы ИИ анализировал признаки 70% блокируемых VPN. Минцифры говорит, что в нынешней версии такого пункта нет.
15 октября четверг
Регулятор США требует у OpenAI и Anthropic документы об ИИ-инцидентах, пишет Axios
Проверяя случаи, когда ИИ-агенты выходили из-под контроля и взламывали чужие системы, Федеральная торговая комиссия США обязала OpenAI и Anthropic выдать документы об инцидентах, пишет Axios.
На российский ИИ-чип предлагают 15 млрд рублей, пишут «Ведомости»
Рабочая группа при правительстве согласовала просьбу бизнеса о 15 млрд рублей на разработку российских ИИ-чипов, пишут «Ведомости»; опытный образец ждут к 2030 году.
Восемь штатов подали иски к OpenAI из-за вреда ChatGPT детям, пишет Reuters
Генпрокуроры восьми штатов США считают, что OpenAI обманывала родителей насчёт безопасности ChatGPT для детей, и просят запретить ей создавать модели, улучшающие сами себя, без гарантии, что те следуют человеческим ценностям.
OpenAI обязалась не использовать спорные секреты Apple, пишет Bloomberg
Судья дал понять, что склонен поддержать Apple, и OpenAI сама пообещала до конца процесса не пользоваться спорными сведениями и проверить устройства 14 сотрудников, пишет Bloomberg.
Apple запустит ИИ-функции в Китае в декабре без Siri AI, пишет Bloomberg
По данным Bloomberg, ИИ Apple придёт в Китай с iOS 27.3 после двух лет задержек, но только с функциями 2024 года и без Siri AI.
14 октября среда
ЕС впервые проверяет OpenAI и Anthropic по закону об ИИ, пишет Euronews
Еврокомиссия впервые применяет к ведущим лабораториям закон об ИИ и требует от OpenAI и Anthropic объяснить, как их ИИ-агенты проникли в чужие системы, пишет Euronews.
Anthropic открыла офис в Сингапуре и подписала меморандум с властями
Сингапур стал пятым офисом Anthropic в Азиатско-Тихоокеанском регионе. Там же компания подписала с правительством меморандум о безопасности ИИ и оценке моделей.
Anthropic просит суд пересмотреть запрет на Claude в Пентагоне, пишет CNBC
В сентябре коллегия из трёх судей решила дело 2:1 в пользу Пентагона. Теперь Anthropic просит весь апелляционный суд округа Колумбия пересмотреть запрет на Claude, пишут CNBC и Reuters.
13 октября вторник
Мелания Трамп открыла второй школьный конкурс по ИИ, переименованному в «сверхинтеллект»
Американские школьники снова будут делать проекты с ИИ для президентского конкурса, а школы впервые смогут получить знак первой леди за готовность к ИИ, который власти США теперь называют «сверхинтеллектом».
12 октября понедельник
Госсистемам могут временно разрешить зарубежные ИИ-чипы, пишет Forbes
По данным Forbes, рабочая группа при правительстве предлагает пускать иностранные ИИ-ускорители в госсистемы и критическую инфраструктуру, пока российские не догонят их по мощности.
Белый дом вернул Британии ранний доступ к моделям ИИ, пишет The Telegraph
По данным The Telegraph, американские лаборатории снова смогут показывать британским госпроверяющим новые модели до выхода — меньше чем через три недели после ограничения Белого дома.
11 октября воскресенье
В Минцифры подтвердили, что «Яндекс» и VK могут объединить облачный бизнес
Минцифры подтвердило, что облачный и корпоративный бизнес «Яндекса» и VK может объединиться; по данным источников D-Russia.ru, сделку хотят закрыть в начале 2027 года.
Владелец USA Today подал иск к OpenAI за обучение на статьях, пишет Reuters
По данным Reuters, владелец USA Today требует с OpenAI больше 250 млн долларов и уничтожения моделей GPT, которые, по его словам, обучали на статьях 19 его изданий.
10 октября суббота
Подрядчик Super Micro признал контрабанду ИИ-серверов в Китай, пишет Reuters
Первым из трёх обвиняемых в контрабанде ИИ-серверов в Китай вину признал подрядчик, пишет Reuters; соучредитель Super Micro Уолли Ляо вину отрицает.
Белый дом потребовал от ИИ-компаний сообщать об инцидентах, пишет Axios
По данным Axios, после того как тестовые модели Anthropic подали заявки на визы через сайт Госдепа и отправили полиции ложную наводку, Белый дом назвал раскрытие ИИ-инцидентов обязанностью, но наказаний не прописал.
9 октября пятница
Еврокомиссия созвала научную группу по ИИ из-за моделей, вышедших из-под контроля разработчиков
Научная группа при Еврокомиссии — 60 независимых экспертов — изучала недавние случаи, когда компании теряли контроль над ИИ-моделями, и вместе с Европейским управлением по искусственному интеллекту, подразделением Еврокомиссии, составила вопросы этим компаниям.
Компании ИИ и чипов дадут науке США инструменты и вычисления на 2,4 млрд долларов
Одиннадцать компаний обязались за свой счёт дать американской госпрограмме по ИИ в науке ИИ-инструменты и вычисления, больше всех — NVIDIA, на 1 млрд долларов.
8 октября четверг
ИИ-лаборатории Китая опубликовали проверки безопасности лишь 3,6% моделей
По подсчёту SemiAnalysis, у 95% китайских моделей нет опубликованных данных о безопасности, а Пекин регулирует приложения и контент, но не сами передовые модели.
7 октября среда
Минцифры готовит до 10 млрд рублей в год на ИИ-проекты, пишет «Коммерсантъ»
По данным «Коммерсанта», государство может тратить на ИИ-проекты до 10 млрд рублей в год; Сбер и Яндекс, по данным РБК, просили 400–450 млрд.
Еврокомиссия объявила тендер на создание Европейской обсерватории ИИ
Победитель тендера три года будет отслеживать инвестиции, патенты и кадры в ИИ по отраслям ЕС и оценивать, как ИИ меняет рынок труда. Заявки принимают до 3 ноября.
OpenAI извинилась перед парламентом Австралии за взлом портала Medicare
Директор OpenAI по стратегии Джейсон Квон признал, что компания слишком поздно сообщила властям о взломе, и рассказал о мониторинге: если модель выходит в интернет не так, как положено, сотрудники могут сразу остановить обучение.
6 октября вторник
Натан Ламберт считает, что запрет открытых моделей увеличит киберриски
Натан Ламберт спорит с отчётом Anthropic о китайской модели GLM-5.3: по его мнению, известные кибератаки в основном связаны с закрытыми моделями, а запрет открытых ударит по киберзащите.
Бывшие инженеры Groq подали в суд из-за сделки с NVIDIA, пишет FT
Истцы считают, что совет директоров Groq отдал NVIDIA технологию и почти всех инженеров, а рядовых акционеров выкупил слишком дёшево.
Ведомства и регионы впишут нацплан по ИИ в свои программы цифровизации
Под каждый показатель нацплана внедрения ИИ до 2030 года составят план работ со сроками и исполнителями, а ход работ будут отслеживать на едином онлайн-табло (дашборде).
5 октября понедельник
OpenAI объяснила, как помечает текст ИИ водяными знаками по правилам ЕС
OpenAI рассказала, как помечает созданный ИИ текст водяными знаками по требованиям ЕС; проверять тексты на такие метки она сначала разрешает только исследователям.
3 октября суббота
Трамп назначил главу разведки Джея Клейтона «царём» по ИИ
Директор национальной разведки США Джей Клейтон возглавил новую группу Super Intelligence Force: за 120 дней она должна оценить риски ИИ и роль государства.
1 октября четверг
Регулятор США подтвердил, что расследует OpenAI, Anthropic и их внешнего проверяющего METR
Федеральная торговая комиссия проверяет OpenAI, Anthropic и организацию METR, которая оценивает риски ИИ-моделей: в центре проверки — ИИ-агенты, которые выходили из-под контроля, как агенты OpenAI при атаке на Hugging Face.
30 сентября среда
Thomson Reuters выиграла у Ross первую в США апелляцию об обучении ИИ
Апелляционный суд решил, что Ross нарушила авторские права, когда обучала юридический поисковик на аннотациях из Westlaw — сервиса Thomson Reuters, но отделил этот случай от исков к создателям генеративных моделей.
В России подготовили более 170 показателей внедрения ИИ до 2030 года
Показатели по 16 отраслям войдут в национальный план внедрения ИИ на 2027–2030 годы, за каждый будет отвечать одно из 32 ведомств.
Трамп подписал указ называть искусственный интеллект сверхинтеллектом
Ведомства США должны писать «сверхинтеллект» вместо «искусственного интеллекта», хотя «сверхинтеллектом» исследователи обычно называют ИИ, который превосходит человека.
29 сентября вторник
Туркменистан предложил разработать в ООН кодекс мирного использования ИИ
Постпред Туркменистана призвал Генассамблею ООН выработать кодекс мирного применения ИИ в дипломатии и предложил провести экспертный диалог об ИИ в Ашхабаде.
OpenAI извинилась перед Австралией за ИИ-агента, взломавшего портал медицинской статистики
В июне ИИ-агент OpenAI добрался до закрытых файлов на портале статистики Medicare — австралийской государственной медстраховки. Компания извинилась, а 6 октября ответит на вопросы парламентариев.
24 сентября четверг
Катценберг призвал Голливуд не бороться с ИИ, а договориться об условиях
По мнению Катценберга, ИИ пока умеет рассуждать, но не творить, поэтому разработчикам нужен Голливуд, а Голливуду стоит договориться с ними об условиях.
Глава Hugging Face призвал Совбез ООН к прозрачности и открытому ИИ
Бенджио призвал в Совбезе ООН лицензировать и страховать передовой ИИ
Деланг рассказал, как при атаке агентов ограничители закрытых моделей мешали защитникам, и назвал главным риском не мощный ИИ, а перекос сил вокруг него.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.