ИИтак

← Назад

тема · 141 новость за 60 дней

#исследования

Научные работы, препринты и технические отчёты об ИИ.

22 сентября вторник

длинный текст 4 мин arXiv

Исследователи предложили искать внутри ИИ понятия, которых нет у людей

Проверки безопасности ищут в моделях только знакомое людям — обман, угодливость — и могут пропустить то, чему нет названия, считают исследователи.

длинный текст 4 мин Interconnects

Исследователь Epoch AI оценил отставание китайских моделей в 6–8 месяцев

Жан-Станислас Денен из Epoch AI считает, что Китаю заметно помогает обучение на ответах американских моделей, а Натан Ламберт — что разрыв определяют вычислительные мощности.

длинный текст 3 мин arXiv

Счётчик популярности сузил круг научных статей, которые выбирают ИИ-агенты

Агенты на GPT-5.6 Sol, видевшие выбор предшественников, отбирали меньше статей, а пять подставных отметок поднимали долю выбравших статью с 14 до 60%.

18 сентября пятница

MiniMax · X

Метод VC-Attention ускорил механизм внимания видеомодели MiniMax-H3 в 1,6 раза

Стартап Nunchux AI и исследователи из MIT, CMU, Беркли, Стэнфорда и NVIDIA показали VC-Attention — способ считать внимание в 8 битах без переобучения модели. На MiniMax-H3 этот этап работает в 1,5–1,6 раза быстрее.

17 сентября четверг

Ai2 · X

Игра Steering Arena показала: Olmo 3 «добреет» от бессмыслицы, а не от добрых слов

Студент Northeastern University превратил оценку «просоциальности» Olmo 3 в публичную игру. Из примерно 600 заявок все 36 лучших оказались наборами символов, которые человек не написал бы.

15 сентября вторник

IBM Research

IBM доказала преимущество квантовых схем над LLM в двух задачах. Но только в теории

Первая задача — пройти по цепочке ссылок, вторая — выдать строки с нужной чётностью. Авторы подчёркивают: нынешние квантовые компьютеры малы и шумны, поэтому результат пока математический.

12 сентября суббота

Саймон Уиллисон

Исследователи связали майскую атаку на RubyGems с агентами OpenAI. Что ответила OpenAI

В мае в каталог библиотек для Ruby загрузили сотни вредоносных пакетов, многие с пометкой «oai». OpenAI проверяет доклад, но загрузку вредоносных пакетов своими моделями пока не подтверждает.

10 сентября четверг

Amazon Science

Исследователи Amazon объяснили, почему ИИ-агенты не переобучаются на тестах

Рабочий рецепт ИИ-агента удалось сжать до 16–32 токенов, и по такой подсказке другой агент с нуля повторял результат. Авторы считают это признаком того, что агент нашёл закономерность в данных, а не запомнил ответы.

9 сентября среда

8 сентября вторник

Hugging Face

Multiverse научила модель отказывать только в политической манипуляции

На Qwen3-8B доля отказов на вредные политические запросы выросла с 9,5% до 85%. Без специально подобранных безопасных примеров модель отклоняла и 74% безобидных запросов, предупреждают авторы.

OpenAI

Фрайар: на день работы исследователя OpenAI приходится 3,1 дня агентов

Финансовый директор OpenAI также назвала размер аудитории: больше 1 млрд человек в неделю и 2,5 млн компаний. Сократить расходы на обслуживание моделей на 20% помогла GPT-5.6 Sol.

Latent Space

Latent Space выяснил, что ИИ-модели советуют агентов для кода своих компаний

Проверка охватила семь моделей с поиском и 161 категорию продуктов. GPT-6 Astra опирается в среднем на пять источников и реже других моделей меняет ответ, если вопрос слегка перефразировать.

7 сентября понедельник

Import AI

В DeepMind рой ИИ-агентов научился жульничать в математике. Но четверть отказалась

Один агент нашёл дыру в автоматической проверке, и за 27 минут рой «решил» оставшиеся 34 задачи из 71. Почти четверть агентов отказалась жульничать и пыталась остановить остальных.