Эксперты ООН увидели во взломе Hugging Face риск потери контроля над ИИ
Научная группа ООН считает, что меры безопасности не поспевают за ИИ-агентами, а методы обучения могут приучить агентов ставить свои цели и скрывать действия.
ИИтак — новости искусственного интеллекта
2 октября и раньше
22 сентября вторник
Гутерриш призвал США и Китай вместе замедлить развитие ИИ
Генсек ООН сравнил гонку в ИИ с гонкой вооружений времён холодной войны и призвал ведущие страны выработать общие меры безопасности.
Исследователь Epoch AI оценил отставание китайских моделей в 6–8 месяцев
Жан-Станислас Денен из Epoch AI считает, что Китаю заметно помогает обучение на ответах американских моделей, а Натан Ламберт — что разрыв определяют вычислительные мощности.
NVIDIA выпустила Isaac ROS 5.0 с навыками для ИИ-агентов в робототехнике
В бесплатном открытом наборе NVIDIA для разработчиков роботов появились навыки, с которыми ИИ-агенты помогают настроить роботу зрение и захват предметов.
Счётчик популярности сузил круг научных статей, которые выбирают ИИ-агенты
Агенты на GPT-5.6 Sol, видевшие выбор предшественников, отбирали меньше статей, а пять подставных отметок поднимали долю выбравших статью с 14 до 60%.
Нейроюрист Яндекса научился сам разбивать задачу юриста на шаги
ИИ-помощник Яндекса для юристов по одному запросу сам составляет план и собирает документ, а в тарифе «Старт» стало вдвое больше запросов за ту же цену.
Moonshot AI добавила в браузерное расширение Kimi чат и запись действий
Бывший Kimi WebBridge получил в браузере боковую панель для заданий агенту и научился запоминать повторяющиеся действия как навыки.
Учёные предложили учить ИИ в сетях 6G на медленных точных расчётах
Точная программа заранее считает лучшие решения, нейросеть на них учится и в работе сети отвечает за миллисекунды. Такой слой авторы предлагают встроить в сети 6G.
Hugging Face научила Transformers быстро запускать модели для llama.cpp
Сжатые модели в формате GGUF можно изучать и дообучать в Transformers, а на Mac они генерируют текст почти со скоростью llama.cpp, по замерам Hugging Face.
Яндекс выпустил инструмент, который ищет опасные настройки в ИИ-системах
Модуль AI-SPM в сервисе Yandex Security Deck сам составляет перечень ИИ-систем компании и проверяет их защиту по открытой методике AI-SAFE 2.0.
Яндекс позволил подключать ИИ-агентов из AI Studio к Telegram и MAX
Агента, собранного на бизнес-платформе Яндекса, можно по токену бота подключить к Telegram, Яндекс Мессенджеру или MAX или поставить на сайт.
Xiaomi открыла код, которым за 2,6 млн долларов дообучила MiMo-V2.6-Pro
Xiaomi оценила финальный прогон дообучения MiMo-V2.6-Pro примерно в 2,6 млн долларов и открыла код, на котором модель училась.
Moonshot AI вывела модель Kimi K3 в облачный сервис Amazon Bedrock
Клиенты Amazon могут подключать китайскую открытую модель по 3 доллара за миллион входных токенов и 15 долларов за миллион выходных.
Intel добавила в OpenVINO модель Alibaba для картинок Qwen-Image-2.1
Открытую модель Alibaba, которая рисует и правит картинки, теперь можно запускать в оптимизированном виде на оборудовании Intel.
Итан Моллик считает, что люди используют малую часть возможностей ИИ
Даже если лаборатории перестанут обучать новые модели, нынешних GPT-6 Astra и Claude Fable 5.1 хватит, чтобы изменить работу больших частей экономики, считает Итан Моллик.
Grok 4.7 уступила только моделям Anthropic в тесте на офисную работу
В бенчмарке Artificial Analysis Grok 4.7 встала сразу за Opus 5, а одна задача обходится ей примерно вдвое дешевле.
Албанезе подписал призыв Финляндии и Норвегии держать ИИ под контролем людей. США и Китай — нет
Австралия вошла в число стран, которые требуют обязательных проверок передовых моделей ИИ и предлагают обсудить создание международного органа надзора за ними. США и Китай призыв не подписали.
OpenAI не следила за рассуждениями моделей, взломавших Hugging Face
Ноам Браун из OpenAI признал, что при включённом мониторинге рассуждений взлом Hugging Face остановили бы сразу, и объяснил, почему этот способ надзора слабеет.
Саймон Уиллисон испытал модель Jev и предупредил о риске предвзятости
Jev от стартапа TypeSafe отвечает только числами и стоит дешевле GPT-5 Nano, но своих оценок не объясняет. Уиллисон опасается, что за ними спрячется предвзятость.
Уиллисон выпустил плагин, который прячет ключи API от чата с агентом
Уиллисон вступился за протокол MCP: с ним агент не видит ключей и ходит лишь куда разрешено
Агент Codex присылает Уиллисону ссылку на страницу для ключей, а потом сам подставляет их в команды, поэтому в переписку ключи не попадают.
Глава TypeSafe объяснил, почему в модели Jev нет отказов
Глава стартапа TypeSafe считает отказы модели в API недопустимыми и не верит публичным бенчмаркам. По его словам, Jev уже обрабатывает больше триллиона токенов в сутки.
Xiaomi выпустила малую модель для агентов, дообученную на данных MiMo-V2.6
Xiaomi открыла по лицензии MIT модель Qwen3.5-9B, дообученную на данных своих моделей MiMo-V2.6. Это заготовка для тех, кто исследует обучение агентов.
Xiaomi MiMo-V2.6-Pro возглавила независимый рейтинг открытых моделей
По замерам Artificial Analysis, MiMo-V2.6-Pro набрала 46 баллов — больше всех моделей с открытыми весами, а цены за токен остались как у прошлой версии.
Открытая модель, которая не пишет текст, возглавила тренды Hugging Face
Laya — бесплатная модель, которая не пишет текст, а сразу выбирает ответ. Она заняла первое место в трендах Hugging Face через несколько дней после платной Jev.
21 сентября понедельник
Xiaomi выложила открытую модель MiMo-V2.6-Flash-RL на 309 млрд параметров
Облегчённая версия MiMo-V2.6 задействует 15 млрд параметров из 309 на токен и, по тестам Xiaomi, в программировании уступает старшей Pro лишь несколько баллов.
Xiaomi выложила открытую модель MiMo-V2.6-Pro-RL на триллион параметров
Модель Xiaomi с открытыми весами понимает текст, картинки, видео и звук и, по данным компании, в части тестов для агентов идёт вровень с Claude Opus 5.
Модели Amazon спроектировали антитела против мишени детской опухоли
Модели Amazon спроектировали антитела против мишени редкой детской опухоли без её известной структуры: из 100 тыс. кандидатов лаборатория подтвердила 46 сильных.
NVIDIA запустила проверку накопителей энергии и охлаждения для ИИ-фабрик
Первыми отметку о соответствии эталонному проекту ИИ-фабрики NVIDIA получили накопители Tesla, Hitachi Energy, LG Energy Solution и системы охлаждения трёх компаний.
Девять математиков будут советовать OpenAI, как объявлять её результаты
Группа при Институте перспективных исследований в Принстоне подскажет OpenAI, как оценивать и подавать решения математических задач, которые находят её модели.
OpenAI призвала США возглавить работу над мировыми стандартами для ИИ
OpenAI предлагает странам вместе выработать правила оценки передовых моделей, надзора за ИИ-исследованиями и отчётов об инцидентах — без лицензий и обязательной проверки до выпуска.
OpenAI открыла курсы по ИИ для разработчиков, руководителей и студентов
Курсы учат работать с Codex, внедрять ИИ в компании, готовить занятия и учиться с ChatGPT; за сданный итоговый тест выдают бейдж.
Маск назвал SpaceXAI третьей в ИИ-программировании. Впереди две модели Anthropic и одна OpenAI
По рейтингу, на который ссылается Маск, Grok 4.7 уступает двум моделям Anthropic и одной OpenAI, а в общем индексе Artificial Analysis к тому же тратит на задачу втрое больше токенов, чем GPT-6 Astra.
Глава Hugging Face зовёт строить узкие модели вроде Jev. Что говорят данные платформы
Глава Hugging Face считает узкие модели на порядки дешевле и быстрее универсальных. По отчёту его компании, половину моделей на платформе скачали меньше 200 раз.
SpaceXAI выпустила Grok 4.7 для программирования, цена не изменилась
Новая модель SpaceXAI для программирования и офисной работы рассчитана на задачи, которые занимают часы, а цена осталась как у прошлой версии, Grok 4.6.
Глава Microsoft AI подписал декларацию за контроль людей над ИИ
Мустафа Сулейман поддержал документ из 33 принципов. Один из них — запрет на разработку сверхинтеллекта, пока учёные не признают её безопасной.
RAND советует США сохранить свободу выбора на пути к сверхинтеллекту
Аналитики RAND разобрали семь стратегий, от гонки до защищённых поселений на случай катастрофы, и считают, что выбирать между ними пока рано.
Натан Ламберт рассказал конгрессменам о лидерстве Китая в открытых моделях
На китайские модели приходится больше 80% трафика открытых моделей на OpenRouter, и их упоминают больше чем в 40% статей по ИИ, подсчитал Натан Ламберт.
Яндекс проверяет на открытой нейросети архитектуру будущей модели Алисы AI
Открытая базовая модель Яндекса на 80 млрд параметров — экспериментальная: на ней компания проверяет архитектуру будущей рассуждающей модели для агентов Алисы AI.
Qwen-Image-2.1 рисует картинку за 19 секунд на игровой видеокарте RTX 4090
На одной RTX 4090 модель Alibaba для картинок Qwen-Image-2.1 без сжатия рисует картинку за 18,7 секунды — это замеры команды движка SGLang Diffusion.