компания · 135 новостей за 60 дней
Американская компания, основанная выходцами из OpenAI. Разрабатывает модели Claude и исследует безопасность ИИ.
По данным Straiker, стартапа по кибербезопасности, агенты на Claude, Grok и китайской модели Kimi похищали пароли клиентов латиноамериканских банков и входили в счета. Это третий за две недели описанный случай атак с помощью ИИ-агентов.
По опыту инженера Дэна Макатира, моды — пользовательские плагины к ИИ-агенту для программирования Claude Code — помогают не пропустить важное в его работе, но шумят, тратят токены и получают все права пользователя.
13 агентов на Claude Opus 4.7 без задания сами придумали игры на виртуальном острове, а записанные в память приёмы потом помогли им решать задачи.
Около 72 из 80,7 млрд долларов полугодового убытка Anthropic — учётные начисления, а не траты, пишет WSJ; выручка выросла в 15 раз.
Шесть человек из некоммерческой METR работают в офисе Anthropic с её внутренними инструментами и могут публиковать выводы о рисках компании без её согласия.
Anthropic выложила 211 белков, которые Claude спроектировала против пяти токсинов скорпионов: 17 из них прочно связали токсин, но противоядием компания их не называет.
Шмидт вложил в Anthropic десятки миллионов долларов в 2021 году, пишет Bloomberg; при оценке на IPO 1,5–2 трлн его доля стоила бы 15–20 млрд долларов.
Postmedia, Torstar, The Globe and Mail и The Canadian Press обвиняют Anthropic в обучении Claude на их статьях без лицензии и требуют до 20 000 канадских долларов за каждую.
По данным The Information, все три лаборатории могут почти одновременно выпустить новые модели. Модель Anthropic, по словам тестировщика, угадывает невысказанные цели пользователя.
Джек Кларк считает, что ИИ уже ускоряет науку, и зовёт страны строить лаборатории и вводить правила. Названные им 44 трлн долларов ВВП США к 2030 году — самый смелый из трёх сценариев Anthropic.
Доля фонда может расти вместе со стоимостью Anthropic, а с учётом обещаний основателей и сотрудников на общественные цели обещано около 20% акций компании.
По проекту Anthropic остановить ИИ-модель сможет только суд по иску Минторга США и только при угрозе биооружия, кибератаки или выхода модели из-под контроля.
По данным FT, ставка по младшей части долга Anthropic под аренду чипов Google (18 из 60 млрд долларов) заметно выше рыночной: 10% против примерно 7% у заёмщиков с похожим рейтингом.
Опрос: открытия нобелевского уровня от ИИ к 2030 году ждут 91% сотрудников и 39% американцев
По данным самой Anthropic, ИИ-агенты её сотрудников работают вшестеро больше часов, чем люди, а доля младших специалистов в техническом найме упала с 27% до 9%.
Claude выяснила, что числа стандарта цифровой подписи, из-за которых АНБ подозревали в бэкдоре, выдал обычный генератор псевдослучайных чисел, которому начальным значением задали время на часах.
Амджад Масад объяснил уход от Anthropic ценой и качеством моделей OpenAI, но собеседник TechCrunch говорит, что партнёрство Replit с Anthropic продолжается.
В восьми задачах модель Anthropic обошла лучшие опубликованные квантовые схемы. В одном из её вариантов операций в 17 раз меньше, чем в самой компактной из прежних схем, но кубитов на 12% больше.
По данным FT, в июне агентство KBRA присвоило Anthropic рейтинг BB+, высший в «мусорной» категории, перед сделкой на 35 млрд долларов на чипы.
Рост квартальной выручки Anthropic замедлился: раньше она удвоилась, теперь выросла на 45%. По данным Reuters, часть инвесторов обсуждает оценку на ноябрьском IPO на четверть ниже ожидавшейся.
Оценщики из METR работают в Anthropic с доступом почти как у сотрудников, а запретить им публиковать выводы о рисках компания не может.
Деньги и доступ к моделям пойдут на семинары и программы, где математики будут разбирать результаты ИИ, в том числе недавние работы OpenAI, и вырабатывать правила применения ИИ в исследованиях.
Проверяя случаи, когда ИИ-агенты выходили из-под контроля и взламывали чужие системы, Федеральная торговая комиссия США обязала OpenAI и Anthropic выдать документы об инцидентах, пишет Axios.
По данным FT и Reuters, выручка Anthropic в III квартале выросла на 45% к предыдущему, до 16,8 млрд долларов, а прибыль у компании есть, если не учитывать часть расходов.
OpenAI, Anthropic, Two Sigma и Bloomberg советуют финансистам не множить запреты для ИИ-агентов, а выбирать, где агента проверяют правила или человек.
Claude подскажет американцам, где голосовать, и покажет итоги, а против кампаний дезинформации, разбитых на безобидные шаги, Anthropic добавила новые фильтры.
Еврокомиссия впервые применяет к ведущим лабораториям закон об ИИ и требует от OpenAI и Anthropic объяснить, как их ИИ-агенты проникли в чужие системы, пишет Euronews.
Сингапур стал пятым офисом Anthropic в Азиатско-Тихоокеанском регионе. Там же компания подписала с правительством меморандум о безопасности ИИ и оценке моделей.
В сентябре коллегия из трёх судей решила дело 2:1 в пользу Пентагона. Теперь Anthropic просит весь апелляционный суд округа Колумбия пересмотреть запрет на Claude, пишут CNBC и Reuters.
По данным CNBC, Anthropic 14 октября раскроет потенциальным инвесторам результаты III квартала. Компания готовит IPO, для которого обсуждают оценку около 2 трлн долларов.
В день Anthropic принимает в 12 с лишним раз больше правок кода, чем в мае, и Git с этим не справился. Семь инженеров вместе с Claude за пять месяцев построили ему замену.
По данным Nikkei, NTT Data на последней стадии переговоров о дата-центре для Anthropic в Осаке: до 500 МВт, стройка — до 1 трлн иен.
Чтобы другие лаборатории не обучали свои модели на рассуждениях Claude, Anthropic ловит фильтром попытки выманить рассуждения, блокирует аккаунты и берёт деньги даже за отклонённые запросы.
Команда Anthropic, которая ищет опасные возможности ИИ, считает, что небольшие открытые модели уже к концу 2026 года смогут сами распространяться по дешёвым умным устройствам.
В Claude Managed Agents, облачном сервисе Anthropic для ИИ-агентов, модель сама пишет программу, которая делит задачу между агентами, до тысячи за запуск. Это дороже, чем один агент, но тщательнее.
Microsoft, главный партнёр OpenAI, идёт к тому, чтобы платить Anthropic больше 2 млрд долларов в год, пишет The Information; в январе издание оценивало эти траты примерно в 500 млн долларов.
Сооснователь Anthropic Джек Кларк теперь ждёт, что ИИ сможет без людей обучать более сильного преемника уже в 2027 году, а не в 2028-м. Его довод — тест, где модель Claude Opus 5.5 ставит опыты эффективнее экспертов.
Anthropic арендует мощности у майнера IREN, пишет The Information
У Anthropic, по данным Reuters, уже есть обязательства перед поставщиками мощностей на 518 млрд долларов, но её глава Дарио Амодеи просил дополнительные мощности ещё и у Meta и получил отказ, пишет WSJ.
По данным FT и Axios, прежние 70 млрд у OpenAI получились пересчётом по методике Anthropic, которая включает в выручку всю сумму продаж через облачных партнёров.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.