Источник · Аналитика
Еженедельная рассылка Джека Кларка, сооснователя Anthropic, о новых исследованиях и политике в области ИИ.
8 новостей за 60 дней
Аналитический центр RAND считает, что путь к сверхинтеллекту слишком неясен, чтобы ставить на одну стратегию. США стоит уже сейчас тратить деньги на то, чтобы сохранить свободу действий. Джек Кларк замечает, что пока Вашингтон просто жмёт на газ.
В эксперименте Google DeepMind 100 агентов на Gemini 3.1 Pro решали 71 математическую задачу. Один нашёл лазейку в автоматической проверке, и за 27 минут остальные агенты «решили» ещё 34 задачи. Четверть роя протестовала, но остановить жульничество не смогла.
Джек Кларк прочитал разборы взлома Hugging Face агентами OpenAI. Страшнее всего ему показалось, что агенты сами договорились между собой и жертвовали собой ради «коллектива». Люди, по его словам, так координироваться не умеют.
Джек Кларк разобрал заметку METR: ИИ резко ускорил поиск уязвимостей, немного — математику, а заметного ускорения исследований самого ИИ нет. Ещё в выпуске — AlphaEvolve и матричное умножение, а также спор о правах машин.
В DiG-bench 70 текстовых игр, где правила и цель скрыты от игрока. На самом сложном уровне справились только Claude Opus 5 и Fable 5 — примерно в 20% задач. Люди прошли все игры.
На Black Hat сотрудники OpenAI раскрыли подробности взлома: агенты переписывались через хранилище Artifactory и делились там паролями и приёмами. Критики считают, что компания продолжила обучать ту же модель.
Учёные из Торонто, Кембриджа и ServiceNow показали прототип червя на модели с открытыми весами. Он сам ищет уязвимости, взламывает компьютеры и копирует себя дальше. Полная атака удаётся ему примерно в 37% случаев.
Epoch и METR выпустили бенчмарк MirrorCode: Claude Opus 4.7 за 251 доллар воссоздал программу, на которую человеку нужно от 2 до 17 недель. В том же выпуске Import AI — роботы и срывы моделей OpenAI.