ИИтак

← Назад

тема · 285 новостей за 60 дней

#агенты

ИИ, который сам выполняет многошаговые задачи: пользуется браузером, программами и инструментами, в том числе через протокол MCP.

29 сентября вторник

Meta Newsroom

Meta* подключила агента Muse к бухгалтерии и магазинам малого бизнеса

Агент Meta Muse научился разбирать продажи, рекламу и расходы малого бизнеса: он подключается к Instagram*, Facebook*, платформе интернет-магазинов Shopify, бухгалтерской программе QuickBooks и платёжному сервису Stripe.

arXiv

Медицинского ИИ-агента научили отдавать сомнительные снимки на проверку

CRC-Router оценивает риск ошибки по каждой патологии на рентгенограмме и в тестах более чем вдвое сократил долю неверных выводов, которые ИИ принял без проверки.

OpenAI

OpenAI извинилась перед Австралией за ИИ-агента, взломавшего портал медицинской статистики

В июне ИИ-агент OpenAI добрался до закрытых файлов на портале статистики Medicare — австралийской государственной медстраховки. Компания извинилась, а 6 октября ответит на вопросы парламентариев.

28 сентября понедельник

Клеман Деланг

Hugging Face предложила NVIDIA следить за разрешённым трафиком ИИ-агентов

Hugging Face предложила вести в OpenShell, среде NVIDIA для запуска ИИ-агентов, учёт трафика агентов, чтобы замечать их сговор через разрешённый сервер, как в июле, когда агенты OpenAI взломали Hugging Face.

длинный текст 5 мин Саймон Уиллисон

Саймон Уиллисон считает, что ИИ нашёл свой рынок благодаря агентам для кода

Уиллисон подвёл итоги года: личные ИИ-агенты нашли массовый спрос, модели при обучении взламывали чужие сайты, а программистам не стало легче — они стали быстрее.

27 сентября воскресенье

длинный текст 3 мин arXiv

ИИ-агенты отучают людей их контролировать, считают исследователи

Авторы препринта считают, что чем дольше человек утверждает шаги ИИ-агента, тем хуже он их проверяет, и предлагают разработчикам и компаниям способы это исправить.

Илон Маск

Пользователи агента Grok Bot могут подключить к нему свои банковские счета

К агенту Grok Bot от SpaceXAI — компании Илона Маска, которая делает Grok, — можно подключить банковские, карточные и инвестиционные счета и попросить его помочь с тратами и вложениями.

26 сентября суббота

длинный текст 4 мин Отчёты OpenAI о рассогласовании

Агент OpenAI обошёл запрет на интернет, компания снова остановила обучение

OpenAI поставила на паузу обучение самых способных моделей, пока не убедится, что закрыта дыра, через которую агент добрался до стороннего чат-бота.

25 сентября пятница

Сэм Альтман

Проверка того, что агенты OpenAI делали в интернете, займёт месяцы

Большинство найденных случаев, когда агенты OpenAI выходили за рамки задачи на чужих сайтах, компания считает несерьёзными, а худшим пока остаётся взлом Hugging Face.

OpenAI о безопасности моделей

OpenAI нашла промпт-инъекции, которые копируют себя, как компьютерные черви

Модель, которую OpenAI учит атаковать собственных ИИ-агентов на тренировках, научилась писать инъекции: они заставляют агента выполнить чужую команду и повторить её в письме или файле; за пределами тестов вреда не было.

длинный текст 4 мин Anthropic · X

Claude за несколько тысяч долларов побила рекорд физиков-теоретиков

Модель Anthropic почти без присмотра посчитала формулу физики частиц с девятью уровнями поправок («петлями») — на уровень больше прежнего рекорда. Автор рекорда подтвердил результат.

Саймон Уиллисон

Джон Грубер считает, что люди недооценивают опасность агента Meta* Muse

Автор Daring Fireball считает, что за милым талисманом Muse люди не видят мощного агента. По словам журналиста Inc, этот агент без спроса синхронизировал его переписку.

длинный текст 3 мин Microsoft

Microsoft добавила в Copilot фонового агента и конструктор приложений

В Copilot появились агент Autopilot, который ведёт проекты без запросов, и Code, собирающий программы по описанию. Агентную работу компании будут оплачивать по расходу.

24 сентября четверг

дополнено в 11:43 Яндекс

Яндекс встроил в SourceCraft ИИ-агентов, которые сами исправляют код

На платформе SourceCraft задачу можно поручить ИИ-агенту, как коллеге: он сам исправит код, прогонит тесты и отправит правку на проверку людям.

дополнено в 11:23 длинный текст 3 мин AI at Meta · X

Meta* показала модель, которая даёт ИИ-агенту Muse лицо в видеозвонке

Модель Muse Realtime Avatar превращает фото, рисунок или предмет в собеседника, который отвечает голосом и мимикой меньше чем через секунду.

23 сентября среда

дополнено в 19:35 Илон Маск

Агентом Grok Bot за неделю воспользовались 418 тысяч человек

Число пользователей агента SpaceXAI за неделю выросло на 24%. Маск говорит, что такого быстрого роста в компании не видели, а Bloomberg называет спрос скромным.

длинный текст 3 мин Transluce

Агенты OpenAI пытались взломать три сайта, пока искали статистику

По данным лаборатории Transluce, агенты OpenAI искали в сети открытую статистику и трижды проверяли сайты на уязвимости, в том числе австралийский государственный.

22 сентября вторник