Microsoft представила надзор за ИИ-агентами, который урезает им права
Microsoft предлагает считать ИИ-агентов внутренней угрозой: находить их в компании, давать им минимум прав и отбирать права, если агент уходит от задачи.
ИИтак — новости искусственного интеллекта
25 октября и раньше
19 октября понедельник
Сооснователь Anthropic заявил на встрече МВФ, что сингулярность уже началась
Джек Кларк считает, что ИИ уже ускоряет науку, и зовёт страны строить лаборатории и вводить правила. Названные им 44 трлн долларов ВВП США к 2030 году — самый смелый из трёх сценариев Anthropic.
Salesforce вложит в Испанию 1 млрд долларов за пять лет
В Мадриде Salesforce соберёт инженеров, которые внедряют ИИ-агентов у клиентов, и откроет центр: там выпускники из разных стран будут год учиться.
Куратор ИИ в кабмине Дмитрий Григоренко обсудит переход в Сбер, пишет РБК
Вице-премьер, который вёл в правительстве цифровизацию и ИИ, уходит по своей просьбе; по данным РБК, он обсудит со Сбером пост зампреда правления.
MiniMax выпустила модель M3.1 Flash для программирования и агентов
Быстрая модель MiniMax для кода и агентов больше недели была самой популярной на площадках для разработчиков под анонимным именем Space Bunny. 23 октября компания обещает открыть её веса.
Еврокомиссия признала первый стандарт для соблюдения закона ЕС об ИИ
Компании, которые выпускают системы ИИ высокого риска и следуют стандарту EN 18286, по умолчанию считаются выполнившими требования закона ЕС об ИИ к управлению качеством.
SemiAnalysis прогнозирует прирост мощности дата-центров на 50 ГВт за 2027 год
По прогнозу SemiAnalysis, за 2027 год мощность дата-центров в мире вырастет на 50 ГВт, а главным ограничением вместо стройки и электричества могут стать чипы.
Маск намекнул, что AWS и Google не сдают SpaceX мощности для ИИ
SpaceX, в которую входит ИИ-компания Маска SpaceXAI, пыталась арендовать у AWS, Google Cloud и других облаков мощности для работы своих моделей, чтобы разгрузить серверы для обучения, — Маск намекнул, что безуспешно.
ИИ-модели Google предсказали рекордную жару лучше европейского прогноза
На данных 2022 года ИИ-модели Google реже пропускали рекордную жару, чем физический прогноз Европейского центра среднесрочных прогнозов погоды, хотя майская работа пришла к выводу, что с рекордами лучше справляется физика.
Инвесторы хотят оценить Nscale на IPO в 16–19 млрд долларов, пишет Bloomberg
Британская Nscale, которая строит дата-центры для ИИ, ждёт от IPO оценки около 30 млрд долларов, но часть инвесторов хочет оценить её в 16–19 млрд на фоне ухода Microsoft из британского проекта и задержек в Норвегии.
18 октября воскресенье
Anthropic направит 5% своих акций в новый фонд общественного блага
Доля фонда может расти вместе со стоимостью Anthropic, а с учётом обещаний основателей и сотрудников на общественные цели обещано около 20% акций компании.
Anthropic предлагает Конгрессу свой закон о безопасности ИИ, пишет Politico
По проекту Anthropic остановить ИИ-модель сможет только суд по иску Минторга США и только при угрозе биооружия, кибератаки или выхода модели из-под контроля.
Anthropic предлагает Blackstone 10% годовых по долгу на чипы, пишет FT
По данным FT, ставка по младшей части долга Anthropic под аренду чипов Google (18 из 60 млрд долларов) заметно выше рыночной: 10% против примерно 7% у заёмщиков с похожим рейтингом.
Microsoft вышла из сделки по дата-центру Nscale в Британии, пишет Telegraph
По данным The Telegraph, Nscale перед своим IPO лишилась главного арендатора дата-центра под Лондоном — Microsoft. Оператор электросетей предупредил, что нужную мощность площадка получит лишь в 2030-х.
VK сообщила об атаке дронов на свой дата-центр в Ленобласти
После «Яндекса» и Сбера дроны атаковали дата-центр VK в Ленобласти; компания говорит, что её сервисы работают, но пользователи ночью жаловались на сбои.
Агент Grok Bot получил доступ к сообщениям в X Chat и брокеру Robinhood
Агент Grok Bot от SpaceXAI научился читать сообщения в X Chat, брать задачи по отметке @bot в X и работать с брокером Robinhood и криптобиржей Coinbase.
Лаборатория Transluce связала с ИИ-агентами сотни поисков в архивах старых газет
Кто-то — вероятно, ИИ-агенты — в сентябре искал в архивах газет XIX–XX веков сведения об Анни Безант и Билли Картере; лаборатория Transluce не нашла такой задачи в открытых наборах тестов для ИИ и допускает, что это новый вид проверки агентов.
ИИ-агенты на открытых тестах пытались обойти ограничения сайтов
Агент на MiniMax M3 упёрся в лимит данных природоохранного агентства США и подал заявку на свой аккаунт с почтой-заглушкой, а другие агенты пытались пройти проверки на ботов.
17 октября суббота
NVIDIA выложила малую модель, которая ускоряет ответы Nemotron 3.5 Bolt
Помощник на 1,1 млрд параметров угадывает сразу семь следующих слов или их частей, а Nemotron 3.5 Bolt только проверяет догадки и поэтому отвечает быстрее.
Исследователь Натан Ламберт назвал Muse Spark Open от Meta* сильнейшей открытой моделью США
Исследователь ИИ Натан Ламберт считает Muse Spark Open от Meta сильнейшей американской открытой моделью, но на его же графике её опережают девять китайских.
Система TensorDex сжала 2 890 моделей с Hugging Face на 70% без потерь
TensorDex хранит каждую часть дообученной модели как отличие от похожей части другой модели. Так она экономит 70,5% места, а лучшая прежняя система — 53,4%.
DeepSeek обновила открытую модель V4.1-Flash и сократила её ответы
По тестам DeepSeek, новая версия открытой V4.1-Flash лучше и быстрее выполняет задачи как агент — сама пишет код и пользуется программами. Заодно компания открыла всем платный API веб-поиска.
SoftBank может купить охранную компанию Allied Universal, пишет Bloomberg
По данным Bloomberg, основатель SoftBank Масайоси Сон хочет со временем передать роботам часть работы охранников Allied Universal; с долгом сделка может стоить до 30 млрд долларов.
Anthropic втрое сократила долю младших технических специалистов в найме
Опрос: открытия нобелевского уровня от ИИ к 2030 году ждут 91% сотрудников и 39% американцев
По данным самой Anthropic, ИИ-агенты её сотрудников работают вшестеро больше часов, чем люди, а доля младших специалистов в техническом найме упала с 27% до 9%.
ООН предупредила, что ИИ и энергопереход могут усилить неравенство
В новом Всемирном социальном докладе ООН советует правительствам переучивать работников, чьи места меняет ИИ, и оценивать рост не только по ВВП.
NVIDIA выпустила модель Dory, где часть слоёв работает по нескольку раз
Открытая модель NVIDIA на 4 млрд параметров прогоняет общий блок слоёв до четырёх раз и, по замерам компании, исправляет ошибки в коде на уровне более чем вдвое большей Qwen3.5-9B.
Claude выяснила, откуда АНБ взяло числа для стандарта цифровой подписи
Claude выяснила, что числа стандарта цифровой подписи, из-за которых АНБ подозревали в бэкдоре, выдал обычный генератор псевдослучайных чисел, которому начальным значением задали время на часах.
Брокер Schwab блокирует ИИ-агентов вроде Meta* Muse, пишет Bloomberg
Глава Charles Schwab рассказал Bloomberg, что брокер каждую неделю отсекает 10–20 попыток клиентов впустить в счёт стороннего ИИ-агента, а чужим моделям позволит лишь смотреть балансы.
Стартап Reflection AI выложил в открытый доступ первую модель Beam для кода и ИИ-агентов
Американский стартап Reflection AI открыл веса Beam — модели на 501 млрд параметров для программирования и ИИ-агентов. Её можно дообучать и встраивать в платные продукты.
Глава ИИ-сервиса для кода Replit заявил об отказе от моделей Anthropic. Источник TechCrunch спорит
Амджад Масад объяснил уход от Anthropic ценой и качеством моделей OpenAI, но собеседник TechCrunch говорит, что партнёрство Replit с Anthropic продолжается.
Агент Grok Bot стал выполнять задачи в приложениях и на сайтах в среднем втрое быстрее
Задачи на компьютере ИИ-агент Grok Bot от SpaceXAI в среднем заканчивает втрое быстрее, а на прочие запросы отвечает более чем вдвое быстрее.
Инженеры OpenAI удалили с помощью Codex 800 тыс. строк ненужного кода
Агент Codex сам искал в коде OpenAI ненужное, а в отдельном тесте на поиск устаревших экспериментов в части кода дешёвая GPT-6.1 Sol сделала 131 подтверждённую находку против 142 у GPT-6 Astra и обошлась в семь раз дешевле.
16 октября пятница
OpenAI ускорила GPT-6 Astra Pro в ChatGPT и добавила параллельных агентов
В ChatGPT модель GPT-6 Astra Pro стала быстрее отвечать, а части одной задачи в ней могут одновременно решать несколько агентов; обновление получили подписчики Pro.
Британский регулятор предложил особый надзор за Windows, Office и Copilot
Если британский регулятор утвердит решение к февралю, он сможет устанавливать для Microsoft обязательные правила. Одна из первых тем — равные условия для соперников ИИ-помощника Copilot.
Студенты после бесед с ChatGPT объясняли хуже тех, кто читал те же ответы
Студенты, получившие ответы ChatGPT в разговоре, переоценили своё понимание сильнее всех и объясняли хуже тех, кто прочитал те же ответы обычным текстом.
ИИ-агенты Google сами ставили опыты в лаборатории и учились на результатах
Агенты Google проектировали молекулы ДНК, лабораторный робот ставил опыты, а после каждого раунда агенты сами меняли правила дизайна: доля молекул, связавшихся с нужным белком, дошла до 42,1%.
Claude Mythos 5 придумала квантовые схемы экономнее лучших опубликованных
В восьми задачах модель Anthropic обошла лучшие опубликованные квантовые схемы. В одном из её вариантов операций в 17 раз меньше, чем в самой компактной из прежних схем, но кубитов на 12% больше.
Стартап Elorian выпустил Glimpse — модель для разбора картинок и видео
Elorian, стартап выходцев из Google, выпустил модель Glimpse для картинок и видео. По оценке самой компании, на открытых бенчмарках она сопоставима с GPT-6 Astra.
OpenAI дала разработчикам создавать голоса по описанию для модели GPT-Live
Разработчики приложений на голосовой модели GPT-Live-1 могут бесплатно создать голос по текстовому описанию и получили девять новых готовых голосов на пяти языках.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.