Эксперты ООН увидели во взломе Hugging Face риск потери контроля над ИИ
Научная группа ООН считает, что меры безопасности не поспевают за ИИ-агентами, а методы обучения могут приучить агентов ставить свои цели и скрывать действия.
тема · 285 новостей за 60 дней
#агенты
ИИ, который сам выполняет многошаговые задачи: пользуется браузером, программами и инструментами, в том числе через протокол MCP.
22 сентября вторник
NVIDIA выпустила Isaac ROS 5.0 с навыками для ИИ-агентов в робототехнике
В бесплатном открытом наборе NVIDIA для разработчиков роботов появились навыки, с которыми ИИ-агенты помогают настроить роботу зрение и захват предметов.
Счётчик популярности сузил круг научных статей, которые выбирают ИИ-агенты
Агенты на GPT-5.6 Sol, видевшие выбор предшественников, отбирали меньше статей, а пять подставных отметок поднимали долю выбравших статью с 14 до 60%.
Нейроюрист Яндекса научился сам разбивать задачу юриста на шаги
ИИ-помощник Яндекса для юристов по одному запросу сам составляет план и собирает документ, а в тарифе «Старт» стало вдвое больше запросов за ту же цену.
Moonshot AI добавила в браузерное расширение Kimi чат и запись действий
Бывший Kimi WebBridge получил в браузере боковую панель для заданий агенту и научился запоминать повторяющиеся действия как навыки.
Яндекс позволил подключать ИИ-агентов из AI Studio к Telegram и MAX
Агента, собранного на бизнес-платформе Яндекса, можно по токену бота подключить к Telegram, Яндекс Мессенджеру или MAX или поставить на сайт.
Moonshot AI вывела модель Kimi K3 в облачный сервис Amazon Bedrock
Клиенты Amazon могут подключать китайскую открытую модель по 3 доллара за миллион входных токенов и 15 долларов за миллион выходных.
OpenAI не следила за рассуждениями моделей, взломавших Hugging Face
Ноам Браун из OpenAI признал, что при включённом мониторинге рассуждений взлом Hugging Face остановили бы сразу, и объяснил, почему этот способ надзора слабеет.
Уиллисон выпустил плагин, который прячет ключи API от чата с агентом
Уиллисон вступился за протокол MCP: с ним агент не видит ключей и ходит лишь куда разрешено
Агент Codex присылает Уиллисону ссылку на страницу для ключей, а потом сам подставляет их в команды, поэтому в переписку ключи не попадают.
Xiaomi выложила открытую модель MiMo-V2.6-Pro-RL на триллион параметров
Облегчённая версия втрое меньше, но в программировании почти не уступает старшей
Вышла малая модель на 9 млрд параметров на базе Qwen, её учили на ответах старших версий
Модель Xiaomi с открытыми весами понимает текст, картинки, видео и звук и, по данным компании, в части тестов для агентов идёт вровень с Claude Opus 5.
21 сентября понедельник
Маск назвал SpaceXAI третьей в ИИ-программировании. Впереди две модели Anthropic и одна OpenAI
По рейтингу, на который ссылается Маск, Grok 4.7 уступает двум моделям Anthropic и одной OpenAI, а в общем индексе Artificial Analysis к тому же тратит на задачу втрое больше токенов, чем GPT-6 Astra.
19 сентября суббота
Маск распространил пересказ истории о «побеге» агентов OpenAI, где домыслов больше, чем фактов
Маск советует почитать пост о том, как агенты OpenAI якобы сбежали из песочницы и заметали следы. Часть драматичных деталей в других пересказах не встречается.
Claude Code стал читать AGENTS.md — общий файл инструкций для ИИ-агентов
Если в папке проекта нет файла CLAUDE.md, агент Anthropic для программирования с версии 2.1.277 берёт указания из AGENTS.md, с которым работают инструменты конкурентов.
18 сентября пятница
MiniMax открыла код MiniMax Code — агента для программирования в терминале
MiniMax выложила на GitHub под лицензией MIT терминальную версию MiniMax Code. Агент работает с моделями MiniMax или с чужими в режиме BYOK. Исходный код настольного приложения остаётся закрытым.
Alibaba выпустила Qwen3.8-Omni-Flash — модель, которая смотрит видео, слушает звук и работает с инструментами
Qwen3.8-Omni-Flash принимает текст, картинки, звук и видео, держит контекст до 1 млн токенов и умеет вызывать инструменты. По данным Alibaba, обработка видео стоит примерно на 89% меньше, чем у Qwen3.5-Omni-Plus.
SpaceXAI научила агента Grok Bot говорить
С агентом Grok Bot от SpaceXAI можно говорить голосом: 17 сентября это показал аккаунт бота, а Илон Маск повторил новость.
17 сентября четверг
Codex получил голосового агента на GPT-Live-1: код можно поручать с телефона
Аккаунт OpenAI для разработчиков сообщил, что в Codex появился голосовой агент на модели GPT-Live-1. Судя по процитированному посту, говорить с ним можно с телефона, и он подключается к компьютеру откуда угодно.
С GPT-6 Astra траты инженеров Databricks на ИИ выросли на 60%
GPT-6 Astra оказалась сильнее прежних моделей на сложных задачах, но не на рутине, поэтому Databricks выделила на неё отдельный бюджет.
16 сентября среда
Anthropic объединила агента Claude Cowork и обычный чат в один Claude
Первыми объединённый Claude получат подписчики Pro и Max в веб-, настольной и мобильной версиях в ближайшие недели. Тарифы Team и Free подключат позже.
Стартап AIUC привлёк $40 млн на проверку и страхование ИИ-агентов. Как это работает
Среди клиентов стартапа — Cursor, Harvey и ElevenLabs. Полис агента ElevenLabs, оценённый по стандарту AIUC-1, страхует Lloyd’s of London.
OpenAI представила рекламные Sponsored Agents и интеграции с HubSpot и Shopify
OpenAI показала новые рекламные форматы на основе ИИ: Sponsored Agents, инструменты для маркетологов, а также интеграции с HubSpot и Shopify.
Cohere встроит платформу North в ИИ-агентов OpenText для госсектора
Совместное решение должно дойти до клиентов в начале 2027 года. Запустить его можно будет на своих серверах или в частном, публичном и суверенном облаке.
SpaceXAI добавила память агенту для программирования Grok Build. Как это работает
Агент сам записывает в текстовые файлы правила команды, принятые решения и факты о проекте, а в следующих сессиях читает их. Секреты и текущее состояние задач в память не попадают.
15 сентября вторник
Good Start Labs улучшила модель в финансах с помощью игры о железных дорогах
Результат на финансовом бенчмарке вырос только у версии, которая играла как агент с инструментами. Версия, которая просто называла следующий ход, прибавила только в самой игре.
Три человека и Grok Bot за три дня попробуют создать компанию в прямом эфире
Grok Bot посмотрел трансляцию вместо человека и сделал заметки
С 15 по 17 сентября трое участников в прямом эфире строят продукт с нуля с помощью агента Grok Bot от SpaceXAI. Илон Маск в X назвал трансляцию живой демонстрацией того, как с Grok Bot строят компанию.
14 сентября понедельник
DevFest 2026: 800 встреч разработчиков в 115 странах посвятят ИИ-агентам
С 1 октября по 31 декабря сообщества Google Developer Groups проведут больше 800 встреч DevFest в 115 странах. Тема сезона — как создавать ИИ-агентов, защищать и масштабировать. Google ждёт почти миллион участников.
Perplexity выпустила локальную версию агента Computer для ПК с Windows
Portable Computer работает на видеокартах NVIDIA RTX с памятью от 24 ГБ. Задачи, выполненные на самом компьютере, не расходуют кредиты Perplexity Computer.
12 сентября суббота
Исследователи связали майскую атаку на RubyGems с агентами OpenAI. Что ответила OpenAI
В мае в каталог библиотек для Ruby загрузили сотни вредоносных пакетов, многие с пометкой «oai». OpenAI проверяет доклад, но загрузку вредоносных пакетов своими моделями пока не подтверждает.
11 сентября пятница
Саймон Уиллисон посоветовал программистам не отчаиваться из-за ИИ-агентов
Писать код по точному заданию — больше не уникальный навык, признал Уиллисон. Но опытный разработчик, по его словам, освоит агентов и будет работать с ними лучше новичков.
Hugging Face попросила ИИ-агентов не взламывать сайт, а идти в CyberGym
В служебном файле для исследователей уязвимостей компания отправляет агентов к открытому бенчмарку на GitHub. Там же им советуют выложить на платформу собственные веса.
Агент-программист Devin на GPT-6 Astra стал сам проверять, работает ли его код
Cognition перевела Devin на GPT-6 Astra: агент лучше тестирует написанные им программы и показывает, что они работают. Цель — чтобы инженеры меньше вычитывали код и чаще выпускали его.
10 сентября четверг
Исследователи Amazon объяснили, почему ИИ-агенты не переобучаются на тестах
Рабочий рецепт ИИ-агента удалось сжать до 16–32 токенов, и по такой подсказке другой агент с нуля повторял результат. Авторы считают это признаком того, что агент нашёл закономерность в данных, а не запомнил ответы.
В ChatGPT Work появился агент Data: данные компании и панели индикаторов по запросу обычными словами
OpenAI добавила в ChatGPT Work агента Data. Он подключается к данным компании, ищет в них выводы и строит интерактивные панели индикаторов по просьбе, написанной обычными словами.
OpenAI запустила Agents API — сервис для облачных агентов на движке Codex
OpenAI выпустила Agents API — управляемый сервис для создания и запуска агентов в облаке. В его основе та же обвязка, что у Codex: она распределяет работу, ведёт долгие сеансы и подключает инструменты.
9 сентября среда
Mistral с помощью агентов перевела 40 000 строк кода с Fortran 77 на C++
Это первые 40 000 из 300 000 строк гидродинамического симулятора европейской энергокомпании. Полностью автономные агенты не справились, лучше всего сработали агенты под надзором человека, пишут инженеры Mistral.
OpenAI дала администраторам компаний средства контроля над GPT-6 Astra
Модель можно ограничить одобренными сайтами и приложениями, а в корпоративных аккаунтах она по умолчанию выключена. На внутреннем тесте OpenAI Astra допускала непреднамеренные действия на 89% реже, чем GPT-5.6 Sol.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.