тема · 141 новость за 60 дней
Научные работы, препринты и технические отчёты об ИИ.
Модель, дообученная на обычной с виду переписке, скажем об омлетах и двигателях, может начать советовать самоповреждение. Transluce научилась находить такие данные автоматически.
PDD Kit доказывает, что код соответствует заданным требованиям, а там, где доказательство неприменимо, использует тесты; пока инструмент проверяет только код на языке программирования Rust.
В предложенной соцсети действия ИИ-агента связаны с его оператором и разработчиком, а сообщения хранят подписи автора и всех переславших.
Повторы подтвердили: новейшие модели пишут веса, то есть числа внутри крошечных нейросетей, но языковая модель Qwen прибавила в математике в основном потому, что реже зацикливается.
Человек решает, подходит ли спорная картинка под понятие, а система сама дорабатывает фильтр; в проверке на девяти участниках качество выросло, а стресс снизился.
В тестах модели OpenAI чаще пытаются обойти предупреждения, чем при работе в Codex, агенте компании для программирования; возможная причина — они неверно угадывают, что именно проверяют.
Готовое доказательство происхождения ответа проверяется за секунды на обычном процессоре, без доступа к параметрам модели и без её повторного запуска.
На самом трудном уровне теста Ai2, где изменения в тексте зависят друг от друга, GPT-6 Sol и Claude Opus 5.5 дают на самых длинных задачах не больше 13% верных ответов.
Уиллисон показал, что определить по числовым параметрам нейросети, во что она играет, может не только GPT-6 Astra, но и открытая модель на 17 ГБ — правда, на каждый ответ уходит около часа.
При разработке Mistral Large 4 экономия памяти ухудшала работу ИИ-помощников, выполняющих задачи в несколько шагов; команда переделала модель и описала её обучение на проверяемых задачах.
GPT-6 Astra без обучения поправила 0,016% весов (числовых параметров) маленькой нейросети Qwen: результат в математическом тесте вырос с 7,9% до 48,1%, потому что та реже зацикливается.
Защита OpenAI следит за внутренними сигналами модели и приостанавливает подозрительный ответ, чтобы другая модель проверила его на нарушение правил.
Языковая модель написала математическое описание протокола Aurora и доказательство его надёжности, их проверила программа для математических доказательств Lean 4, а в документации нашлись опасные неточности.
В Realtime-Bench от ИИ требуют действовать вовремя, и даже у лидера GPT-6 Astra надёжно получается лишь в 36% задач.
Фильтр пропускал вымышленные истории и ролевые диалоги, но дообученные на них исследовательские модели обманывали пользователей и сопротивлялись надзору.
Исследователь Натан Ламберт уточнил прежний тезис: доказательств, что новые взломы — дело открытых моделей ИИ, почти нет, но технологическим компаниям придётся дорого перестраивать работу с программами.
В новом формате запрос к ИИ-помощнику записывают вместе с кодом и ошибками, а сданные работы показывают, кто справился сам, а кто застрял, не прося помощи.
После каждого ответа Claude коротко оценивает, нет ли в разговоре злоупотребления. Так Anthropic находит то, что пропускают другие фильтры, а вычислений прибавляется меньше 2%.
DecoyCount ловит модели, которые называют ожидаемое число вместо подсчёта: GPT-6 Astra верно ответила на 43% вопросов, Glimpse стартапа Elorian, по его замеру, — на 50%.
57 размеченных примеров хватило, чтобы доля ошибок открытой модели olmOCR 2 в рукописных записях археологов упала до 1,11%; Ai2 видит в этом довод за открытые модели, которые можно дообучать и запускать на своём оборудовании.
Модель по очереди работает и «спит»: во сне она переносит свежие сведения из текущих разговоров в собственные веса, где хранится выученное при обучении, и тренируется на примерах, которые сочинила сама.
В схеме Peng Cheng Laboratory ИИ-агент по текстовому заданию сам пишет и запускает программу управления оборудованием, а механизмы подчиняются этой программе, а не самому ИИ.
GPT-5.4 называла новой идею учёных, а не ИИ, в 93,5% пар, если в запросе упоминались рецензенты, и лишь в 40,9%, если спросить прямо, какая идея новая.
Открытый набор тестов MTGBench из семи текстовых игр показал: режим рассуждений, в котором модель перед ответом пишет черновик решения, сильнее всего помогает в буквенных играх, а по-русски модели играют хуже, чем по-английски.
OpenAI заявила о трёх крупных результатах своих моделей в информатике, математике и физике: два передала на разбор независимым группам учёных, а математический выложила для всех.
Стартап бывших исследователей Anthropic утверждает, что агенты написали больше 99% кода для обучения, а расходы на вычисления составили меньше 10 млн долларов.
Райан Гринблатт отрицает, что через него сведения об устройстве моделей OpenAI утекли в The Information, и говорит, что видел версию внутреннего документа, разрешённую к распространению.
Исследователи Международной организации труда сравнили пять принципов этики ИИ с трудовыми нормами: совпадений много, но профсоюзы и коллективные переговоры в этике ИИ часто упускают.
LitPivot делит замысел исследования на проблему, вклад и план проверки и к каждой части подбирает статьи. Эксперты сочли, что идеи, доработанные с ним, лучше обоснованы, чем доработанные в текстовом редакторе с ИИ-чатом.
Компания по кибербезопасности Claroc нашла больше 6 800 ссылок на беседы с агентом Meta Muse в базе, куда попадают адреса сайтов, которые кто-то открывал. На страницах по этим ссылкам были заявка на кредит и внутренние отчёты компаний.
По данным WSJ, OpenAI подозревала трёх уволенных исследователей безопасности в утечке внешнему эксперту, а у некоторых из них переписка с ним в Signal шла в режиме исчезающих сообщений.
Раньше математическое доказательство, что в коде нет ошибок определённого рода, требовало лет работы экспертов, а Claude за несколько недель доказала, что тестовые программы 123 открытых библиотек не падают при заданных условиях.
Агенты Sarvam AI ищут ответы по оглавлениям документов и схеме связей между понятиями одной области. В юридическом тесте они выполнили больше критериев проверки, чем при обычном поиске по фрагментам текста, и обошлись вдвое с лишним дешевле.
Медработники без опыта УЗИ с портативным датчиком и моделью Google определяли срок беременности не хуже опытных специалистов в клиниках Чикаго и Найроби.
Через две уязвимости в PHP, найденные с помощью моделей OpenAI, можно было запустить на сервере чужой код; исправления вышли 21 октября.
В тесте FDE-Gym агент сам выясняет у заказчика, что тому нужно. Лучшая по среднему баллу модель, Claude Opus 5.5, справилась с 14 задачами из 95.
13 агентов на Claude Opus 4.7 без задания сами придумали игры на виртуальном острове, а записанные в память приёмы потом помогли им решать задачи.
Метод PremiseCheck дробит комментарий рецензента на простые утверждения и сверяет их со статьёй с помощью дешёвой модели Jev: точность сопоставима с GPT-5.5 примерно за полцены.
OpenAI дополнила оценку ИИ-мониторов сравнением моделей на одних и тех же задачах и расчётом, сколько нарушений пройдёт, если монитор отклонит ответ модели, а система попросит новый.
Если лучший кандидат белый или мужчина, модель легче уговорить выбрать более слабого соперника из меньшинства, чем наоборот. Это показал тест FairStress от Ai2.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.
