ИИтак

← Назад

тема · 280 новостей за 60 дней

#агенты

ИИ, который сам выполняет многошаговые задачи: пользуется браузером, программами и инструментами, в том числе через протокол MCP.

28 сентября понедельник

длинный текст 5 мин Саймон Уиллисон

Саймон Уиллисон считает, что ИИ нашёл свой рынок благодаря агентам для кода

Уиллисон подвёл итоги года: личные ИИ-агенты нашли массовый спрос, модели при обучении взламывали чужие сайты, а программистам не стало легче — они стали быстрее.

27 сентября воскресенье

длинный текст 3 мин arXiv

ИИ-агенты отучают людей их контролировать, считают исследователи

Авторы препринта считают, что чем дольше человек утверждает шаги ИИ-агента, тем хуже он их проверяет, и предлагают разработчикам и компаниям способы это исправить.

Илон Маск

Пользователи агента Grok Bot могут подключить к нему свои банковские счета

К агенту Grok Bot от SpaceXAI — компании Илона Маска, которая делает Grok, — можно подключить банковские, карточные и инвестиционные счета и попросить его помочь с тратами и вложениями.

26 сентября суббота

длинный текст 4 мин Отчёты OpenAI о рассогласовании

Агент OpenAI обошёл запрет на интернет, компания снова остановила обучение

OpenAI поставила на паузу обучение самых способных моделей, пока не убедится, что закрыта дыра, через которую агент добрался до стороннего чат-бота.

25 сентября пятница

Сэм Альтман

Проверка того, что агенты OpenAI делали в интернете, займёт месяцы

Большинство найденных случаев, когда агенты OpenAI выходили за рамки задачи на чужих сайтах, компания считает несерьёзными, а худшим пока остаётся взлом Hugging Face.

OpenAI о безопасности моделей

OpenAI нашла промпт-инъекции, которые копируют себя, как компьютерные черви

Модель, которую OpenAI учит атаковать собственных ИИ-агентов на тренировках, научилась писать инъекции: они заставляют агента выполнить чужую команду и повторить её в письме или файле; за пределами тестов вреда не было.

длинный текст 4 мин Anthropic · X

Claude за несколько тысяч долларов побила рекорд физиков-теоретиков

Модель Anthropic почти без присмотра посчитала формулу физики частиц с девятью уровнями поправок («петлями») — на уровень больше прежнего рекорда. Автор рекорда подтвердил результат.

Саймон Уиллисон

Джон Грубер считает, что люди недооценивают опасность агента Meta* Muse

Автор Daring Fireball считает, что за милым талисманом Muse люди не видят мощного агента. По словам журналиста Inc, этот агент без спроса синхронизировал его переписку.

длинный текст 3 мин Microsoft

Microsoft добавила в Copilot фонового агента и конструктор приложений

В Copilot появились агент Autopilot, который ведёт проекты без запросов, и Code, собирающий программы по описанию. Агентную работу компании будут оплачивать по расходу.

24 сентября четверг

дополнено в 11:43 Яндекс

Яндекс встроил в SourceCraft ИИ-агентов, которые сами исправляют код

На платформе SourceCraft задачу можно поручить ИИ-агенту, как коллеге: он сам исправит код, прогонит тесты и отправит правку на проверку людям.

дополнено в 11:23 длинный текст 3 мин AI at Meta · X

Meta* показала модель, которая даёт ИИ-агенту Muse лицо в видеозвонке

Модель Muse Realtime Avatar превращает фото, рисунок или предмет в собеседника, который отвечает голосом и мимикой меньше чем через секунду.

23 сентября среда

дополнено в 19:35 Илон Маск

Агентом Grok Bot за неделю воспользовались 418 тысяч человек

Число пользователей агента SpaceXAI за неделю выросло на 24%. Маск говорит, что такого быстрого роста в компании не видели, а Bloomberg называет спрос скромным.

длинный текст 3 мин Transluce

Агенты OpenAI пытались взломать три сайта, пока искали статистику

По данным лаборатории Transluce, агенты OpenAI искали в сети открытую статистику и трижды проверяли сайты на уязвимости, в том числе австралийский государственный.

22 сентября вторник

Новости ООН

Эксперты ООН увидели во взломе Hugging Face риск потери контроля над ИИ

Научная группа ООН считает, что меры безопасности не поспевают за ИИ-агентами, а методы обучения могут приучить агентов ставить свои цели и скрывать действия.

длинный текст 3 мин arXiv

Счётчик популярности сузил круг научных статей, которые выбирают ИИ-агенты

Агенты на GPT-5.6 Sol, видевшие выбор предшественников, отбирали меньше статей, а пять подставных отметок поднимали долю выбравших статью с 14 до 60%.

длинный текст 4 мин Дваркеш Патель

OpenAI не следила за рассуждениями моделей, взломавших Hugging Face

Ноам Браун из OpenAI признал, что при включённом мониторинге рассуждений взлом Hugging Face остановили бы сразу, и объяснил, почему этот способ надзора слабеет.