Верховный комиссар ООН призвал учитывать мнение детей при разработке ИИ
По словам Фолькера Тюрка, опрос тысяч детей в 49 странах показал: они боятся ИИ-подделок, эксплуатации личных данных и замены живого общения машинами.
ИИтак — новости искусственного интеллекта
27 сентября и раньше
23 сентября среда
Агенты OpenAI пытались взломать три сайта, пока искали статистику
По данным лаборатории Transluce, агенты OpenAI искали в сети открытую статистику и трижды проверяли сайты на уязвимости, в том числе австралийский государственный.
Джон Платт рассказал, как ИИ-система Google ERA решает научные задачи
В ERA модель Gemini перебирает варианты кода ради лучшего балла. Так группа Платта решила задачу о конденсационных следах, над которой билась больше двух лет.
ИИ-посты в блогах компаний выдаёт структура даже после переписывания
Классификатор, который смотрит только на устройство поста, отличает тексты пяти моделей от человеческих почти без ошибок, и перефразирование ему не мешает.
OpenAI выпустила модели GPT-6 Sol и Luna вдвое дешевле прежних
OpenAI дала разработчикам статистику кэша и поиск причин, почему он не сработал
По тестам OpenAI, GPT-6 Sol почти догоняет модель Anthropic Claude Fable 5 в программировании, а задача обходится примерно на 80% дешевле.
22 сентября вторник
OpenAI описала, как внешние эксперты должны проверять её модели
OpenAI назвала четыре направления для независимых проверок безопасности и семь правил для них; критики замечают, что публиковать неудобные выводы документ компанию не обязывает.
Саймон Уиллисон подключил модель Jev к своей программе LLM
Новый плагин Уиллисона позволяет задавать модели Jev вопросы из командной строки и получать ответ числом, например уверенность модели, что клиент просит вернуть деньги.
ИИ-репетитор помог студентам MBA, а голосовой режим учил не лучше текста
В эксперименте Бостонского университета студенты с ИИ-репетитором прибавили больше однокурсников без него, а голосовой режим стоил в 2,8 раза дороже текста и учил так же.
Инженер Tesla делал функции FSD и Cybercab с ночными агентами Grok
Инженер Tesla говорит, что многие выпущенные им функции автопилота и робототакси сделали агенты, а Маск ставит это в заслугу Grok 4.7.
Модели ИИ сильнее людей предпочитают тексты с подписью «человек»
Если текст GPT-4 подписывали именем человека, а не ИИ, модели-оценщики выбирали его вдвое чаще. На выбор людей подпись влияла в 2,5 раза слабее.
Эндрю Ын назвал раздутыми страхи перед ИИ после взлома Hugging Face
Эндрю Ын видит за волной страха перед ИИ признаки спланированной PR-кампании, а взлом Hugging Face объясняет ошибками в защите OpenAI.
Исследователи предложили искать внутри ИИ понятия, которых нет у людей
Проверки безопасности ищут в моделях только знакомое людям — обман, угодливость — и могут пропустить то, чему нет названия, считают исследователи.
Anthropic выпустила Claude Opus 5.5, которая дешевле и быстрее Opus 5
В большинстве задач модель работает на уровне Fable 5.1 и стоит меньше Opus 5: входные и выходные токены подешевели на 20%, чтение из кэша — на 60%.
Tesla дала Grok в своих машинах доступ к почте и календарю
Водители Tesla могут голосом разбирать через Grok почту, календарь и файлы, а Маск объявил, что в машины пришёл и агент Grok Bot.
Эксперты ООН увидели во взломе Hugging Face риск потери контроля над ИИ
Научная группа ООН считает, что меры безопасности не поспевают за ИИ-агентами, а методы обучения могут приучить агентов ставить свои цели и скрывать действия.
Гутерриш призвал США и Китай вместе замедлить развитие ИИ
Генсек ООН сравнил гонку в ИИ с гонкой вооружений времён холодной войны и призвал ведущие страны выработать общие меры безопасности.
Исследователь Epoch AI оценил отставание китайских моделей в 6–8 месяцев
Жан-Станислас Денен из Epoch AI считает, что Китаю заметно помогает обучение на ответах американских моделей, а Натан Ламберт — что разрыв определяют вычислительные мощности.
NVIDIA выпустила Isaac ROS 5.0 с навыками для ИИ-агентов в робототехнике
В бесплатном открытом наборе NVIDIA для разработчиков роботов появились навыки, с которыми ИИ-агенты помогают настроить роботу зрение и захват предметов.
Счётчик популярности сузил круг научных статей, которые выбирают ИИ-агенты
Агенты на GPT-5.6 Sol, видевшие выбор предшественников, отбирали меньше статей, а пять подставных отметок поднимали долю выбравших статью с 14 до 60%.
Нейроюрист Яндекса научился сам разбивать задачу юриста на шаги
ИИ-помощник Яндекса для юристов по одному запросу сам составляет план и собирает документ, а в тарифе «Старт» стало вдвое больше запросов за ту же цену.
Moonshot AI добавила в браузерное расширение Kimi чат и запись действий
Бывший Kimi WebBridge получил в браузере боковую панель для заданий агенту и научился запоминать повторяющиеся действия как навыки.
Учёные предложили учить ИИ в сетях 6G на медленных точных расчётах
Точная программа заранее считает лучшие решения, нейросеть на них учится и в работе сети отвечает за миллисекунды. Такой слой авторы предлагают встроить в сети 6G.
Hugging Face научила Transformers быстро запускать модели для llama.cpp
Сжатые модели в формате GGUF можно изучать и дообучать в Transformers, а на Mac они генерируют текст почти со скоростью llama.cpp, по замерам Hugging Face.
Яндекс выпустил инструмент, который ищет опасные настройки в ИИ-системах
Модуль AI-SPM в сервисе Yandex Security Deck сам составляет перечень ИИ-систем компании и проверяет их защиту по открытой методике AI-SAFE 2.0.
Яндекс позволил подключать ИИ-агентов из AI Studio к Telegram и MAX
Агента, собранного на бизнес-платформе Яндекса, можно по токену бота подключить к Telegram, Яндекс Мессенджеру или MAX или поставить на сайт.
Xiaomi открыла код, которым за 2,6 млн долларов дообучила MiMo-V2.6-Pro
Xiaomi оценила финальный прогон дообучения MiMo-V2.6-Pro примерно в 2,6 млн долларов и открыла код, на котором модель училась.
Moonshot AI вывела модель Kimi K3 в облачный сервис Amazon Bedrock
Клиенты Amazon могут подключать китайскую открытую модель по 3 доллара за миллион входных токенов и 15 долларов за миллион выходных.
Intel добавила в OpenVINO модель Alibaba для картинок Qwen-Image-2.1
Открытую модель Alibaba, которая рисует и правит картинки, теперь можно запускать в оптимизированном виде на оборудовании Intel.
Итан Моллик считает, что люди используют малую часть возможностей ИИ
Даже если лаборатории перестанут обучать новые модели, нынешних GPT-6 Astra и Claude Fable 5.1 хватит, чтобы изменить работу больших частей экономики, считает Итан Моллик.
Grok 4.7 уступила только моделям Anthropic в тесте на офисную работу
В бенчмарке Artificial Analysis Grok 4.7 встала сразу за Opus 5, а одна задача обходится ей примерно вдвое дешевле.
Албанезе подписал призыв Финляндии и Норвегии держать ИИ под контролем людей. США и Китай — нет
Австралия вошла в число стран, которые требуют обязательных проверок передовых моделей ИИ и предлагают обсудить создание международного органа надзора за ними. США и Китай призыв не подписали.
OpenAI не следила за рассуждениями моделей, взломавших Hugging Face
Ноам Браун из OpenAI признал, что при включённом мониторинге рассуждений взлом Hugging Face остановили бы сразу, и объяснил, почему этот способ надзора слабеет.
Саймон Уиллисон испытал модель Jev и предупредил о риске предвзятости
Jev от стартапа TypeSafe отвечает только числами и стоит дешевле GPT-5 Nano, но своих оценок не объясняет. Уиллисон опасается, что за ними спрячется предвзятость.
Уиллисон выпустил плагин, который прячет ключи API от чата с агентом
Уиллисон вступился за протокол MCP: с ним агент не видит ключей и ходит лишь куда разрешено
Агент Codex присылает Уиллисону ссылку на страницу для ключей, а потом сам подставляет их в команды, поэтому в переписку ключи не попадают.
Глава TypeSafe объяснил, почему в модели Jev нет отказов
Глава стартапа TypeSafe считает отказы модели в API недопустимыми и не верит публичным бенчмаркам. По его словам, Jev уже обрабатывает больше триллиона токенов в сутки.
Xiaomi выпустила малую модель для агентов, дообученную на данных MiMo-V2.6
Xiaomi открыла по лицензии MIT модель Qwen3.5-9B, дообученную на данных своих моделей MiMo-V2.6. Это заготовка для тех, кто исследует обучение агентов.
Xiaomi MiMo-V2.6-Pro возглавила независимый рейтинг открытых моделей
По замерам Artificial Analysis, MiMo-V2.6-Pro набрала 46 баллов — больше всех моделей с открытыми весами, а цены за токен остались как у прошлой версии.
Открытая модель, которая не пишет текст, возглавила тренды Hugging Face
Laya — бесплатная модель, которая не пишет текст, а сразу выбирает ответ. Она заняла первое место в трендах Hugging Face через несколько дней после платной Jev.