ИИтак

← Назад

тема · 141 новость за 60 дней

#исследования

Научные работы, препринты и технические отчёты об ИИ.

7 октября среда

OpenAI о безопасности моделей

OpenAI нашла в o3 сигналы, связанные с мыслями модели о проверке

Когда модель прикидывает, как её оценят, в ней работает не один механизм, а несколько. Внутренние сигналы этих механизмов крепнут при обучении и могут влиять на ответ, даже если модель в рассуждениях о проверке не пишет.

Ai2 · X

Институт Ai2 научил модели Alibaba и Meta* читать текст по байтам, метод вышел в Nature

Метод Ai2 дешёвым дообучением учит готовую модель читать текст не кусками слов, а байтами — так, как текст хранит компьютер; статья о нём вышла в Nature, метод проверили на Qwen и Llama.

Microsoft Research

Microsoft описала фреймворк для дообучения готовых ИИ-агентов

Открытый фреймворк Microsoft дообучает ИИ-агента без переписывания: агент на языковой модели Qwen3.5-9B стал решать с первой попытки 56,4% задач на исправление кода из теста SWE-bench Verified вместо 41,8%.

Hugging Face

NVIDIA объяснила, как дообучила Nemotron до уровня олимпиадного золота

Версии открытой языковой модели NVIDIA Nemotron 3, дообученные на олимпиадных задачах, набрали баллы на золото по математике и информатике, а компания выложила модели, данные и код.

длинный текст 4 мин Latent Space

Математики разошлись в оценке 722 работ модели OpenAI

OpenAI выложила 722 статьи, где её закрытая модель предлагает решения открытых математических задач: одни математики называют это историческим событием, другие требуют показать модель и запросы.

arXiv

Диффузионная модель ALoDLM обошла исходную Qwen3 в среднем по 11 тестам

Языковая модель ALoDLM, сделанная из Qwen3, до четырёх раз пропускает трудные места текста через слои нейросети и, по замерам авторов, в среднем точнее Qwen3, а на школьных задачах в 2,7 раза быстрее.

6 октября вторник

длинный текст 3 мин Google Research

Google предлагает проверять каждое действие ИИ-агента на уместность

Google и более 50 исследователей предлагают поставить над ИИ-агентами надзорный слой: он будет проверять, уместно ли передавать данные в конкретной ситуации.

длинный текст 4 мин Google Research

Модель Google по данным поиска и карт уточнила прогнозы холеры и денге

Модель Google PDFM описывает район по поисковым запросам, перемещениям людей и погоде. В пяти проверках эпидемиологов такие описания не уступили привычным им данным, а чаще улучшили прогноз.

длинный текст 4 мин Cohere

Cohere рассказала, как научила маленькую модель рассуждать на языке вопроса

Небольшая открытая модель Cohere рассуждает на языке вопроса и на большинстве тестов почти не уступает в точности версии, которая думает по-английски: хватило скромной многоязычной добавки к английским данным.

5 октября понедельник

длинный текст 4 мин arXiv

Учёные DeepMind и нейробиологи разложили спор о сознании ИИ на пять уровней

В показательных расчётах авторов оценка вероятности сознания у языковых моделей — от 0,1% до 79%: всё зависит от того, какой теории доверять и как читать данные.

4 октября воскресенье

Hugging Face

Открытая среда Dr. Claw ставит ИИ-агента для кода под контроль учёного

Dr. Claw отдаёт работу агентам вроде Claude Code и Codex, оставляет решения учёному и записывает каждый шаг. В пробной проверке агент в Dr. Claw соблюл больше правил добротного исследования, чем тот же агент без среды.

3 октября суббота

длинный текст 3 мин arXiv

Теория категорий помогла ИИ точнее рисовать визуальные метафоры

Метод PRISM считает, сколько связей метафоры сохранилось на картинке, и правит запрос; люди чаще выбирали доработанные изображения, но те становились перегруженнее.

2 октября пятница

длинный текст 4 мин AI at Meta · X

Модель Meta* Muse Spark помогла математикам с шестью открытыми задачами

Meta выложила шесть статей, где математики с Muse Spark в обычном чате доказали теоремы и нашли контрпримеры; одну задачу в августе независимо решили другие группы.

длинный текст 4 мин Latent Space

Аспирант MIT Алекс Чжан считает, что Claude Code, Codex и Pi устроены почти одинаково

Алекс Чжан считает, что агенты для программирования собраны по одной схеме, а в его схеме RLM модель работает с данными через код, поручает подзадачи своим копиям и легче переносит навыки на новые задачи.

1 октября четверг

длинный текст 5 мин Anthropic · X

Физик из Гарварда за три месяца подготовил с Claude 36 научных работ

Мэттью Шварц перестал работать с Claude как с коллегой-человеком и стал подбирать задачи под её сильные стороны: код, математику и широкий кругозор.

Ai2 · X

Ai2 ускорил в 2,7 раза свою открытую систему обучения больших моделей

Новая открытая система Ai2 держит части модели — «экспертов» — постоянно на видеокартах и шлёт к ним обучающие данные, поэтому на том же оборудовании обучает модель примерно в 2,7 раза быстрее прежней версии.

длинный текст 4 мин arXiv

ИИ-агент на мощном ПК не отдаёт данные облаку, но решает меньше задач

В тесте AgBench агенты с моделью на самом компьютере решили меньше задач и работали дольше облачных, зато не отправили в облако никаких конфиденциальных данных.

30 сентября среда

Google DeepMind

Google DeepMind научилась метить созданные ИИ белки скрытым водяным знаком

Метка прячется в выборе аминокислот и читается на самой синтезированной молекуле; в лабораторных опытах помеченные белки связывались с мишенями не хуже обычных.

Cohere

Cohere предложила оценивать качество поиска с помощью модели-судьи

Метрика качества поиска RCP-nDCG@10 засчитывает подходящие документы, которых нет в составленном людьми списке правильных ответов теста; в слепом исследовании Cohere люди чаще соглашались с ней, чем с общепринятой метрикой nDCG.

длинный текст 4 мин arXiv

ИИ-агент готовит таблицы для модели Google TabFM и снижает её ошибки

ИИ-агент по названиям столбцов пишет код подготовки данных для TabFM, модели для прогнозов по таблицам, и связка обходит в тестах агентов, которые обучают модели с нуля.

29 сентября вторник

arXiv

Медицинского ИИ-агента научили отдавать сомнительные снимки на проверку

CRC-Router оценивает риск ошибки по каждой патологии на рентгенограмме и в тестах более чем вдвое сократил долю неверных выводов, которые ИИ принял без проверки.

28 сентября понедельник

Sakana AI

Sakana AI предложила проверять движения робота в симуляторе до запуска

Sakana AI и Токийский университет дали модели Google для роботов пробовать движения в симуляторе и править их по видео: среди 45 вариантов удачный находится в 73% случаев, с одной попытки — в 25%.

27 сентября воскресенье

длинный текст 3 мин arXiv

ИИ-агенты отучают людей их контролировать, считают исследователи

Авторы препринта считают, что чем дольше человек утверждает шаги ИИ-агента, тем хуже он их проверяет, и предлагают разработчикам и компаниям способы это исправить.

26 сентября суббота

25 сентября пятница

24 сентября четверг

Банк международных расчётов (BIS)

ИИ и роботам труднее заменить людей в стареющих отраслях, выяснили в BIS

По расчёту BIS, машины проще всего заменяют людей в финансах, а в медицине и сельском хозяйстве, где много пожилых работников, возможностей для этого меньше.

23 сентября среда

Международная организация труда (МОТ)

ИИ ускоряет работу китайских компаний, но людей в основном не заменяет

Международная организация труда изучила 21 китайскую компанию: ИИ ускоряет рутинную работу и в основном работает в связке с людьми, а 39% опрошенных специалистов ждут падения доходов.