Проверяющие из Accenture получат в Anthropic доступ на уровне сотрудников
Anthropic и Accenture вложат минимум по 1 млрд долларов в проверку моделей изнутри, но работу проверяющих оплачивает сама Anthropic, и критики сомневаются в их независимости.
компания · 135 новостей за 60 дней
Anthropic
Американская компания, основанная выходцами из OpenAI. Разрабатывает модели Claude и исследует безопасность ИИ.
19 сентября суббота
18 сентября пятница
Исследователи с помощью Claude Opus 5 добрались до внутреннего кода OpenAI
Три исследователя с помощью Claude Opus 5 за трое суток добрались до внутреннего кода OpenAI, потратив на токены меньше 3 000 долларов.
Claude в среднем вчетверо ускорила 30 с лишним моделей для биологов
Модель Anthropic меньше чем за месяц ускорила открытые модели, которыми биологи предсказывают и проектируют белки, и научила их считать огромные молекулы на одном сервере.
17 сентября четверг
Anthropic подсчитала, что Claude ведёт четверть её работы над ИИ
По подсчёту Anthropic, доля её исследований, которые Claude ведёт почти сама под надзором людей, за полгода выросла с менее чем 1% до 26%.
Anthropic ослабила фильтры Claude для проверенных биологов и фармкомпаний
Лаборатории и фармкомпании после проверки получат Mythos, Opus и Sonnet без части биологических фильтров, а Anthropic будет задним числом проверять их запросы.
16 сентября среда
Anthropic объединила агента Claude Cowork и обычный чат в один Claude
Первыми объединённый Claude получат подписчики Pro и Max в веб-, настольной и мобильной версиях в ближайшие недели. Тарифы Team и Free подключат позже.
15 сентября вторник
Амодеи пообещал внешним проверяющим столы и пропуска в офисах Anthropic
Сотрудники независимых организаций вроде METR получат в Anthropic доступ на уровне внутренних команд оценки рисков. Одновременно AI Evaluator Forum выпустил требования к таким проверяющим.
14 сентября понедельник
Основатель Recursive Ричард Сохер назвал конституцию Claude маркетингом
Сохер рассказал, что ИИ-система Recursive меньше чем за двое суток обошла сотни людей и их агентов на открытом конкурсе по обучению маленькой языковой модели.
Глава Cohere назвал план Амодеи по замедлению ИИ картелем. Что он предлагает взамен
По мнению Эйдана Гомеса, стандарты безопасности ИИ должны писать правительства, учёные и независимые проверяющие. Лидеры рынка, получившие исключение из антимонопольных правил, для этого не годятся.
13 сентября воскресенье
Хассабис поддержал призыв главы Anthropic замедлить развитие ИИ
Дарио Амодеи предложил план из трёх шагов. Первый шаг Anthropic сделает без оглядки на других: сторонние проверяющие получат постоянный доступ к её системам наравне с сотрудниками.
11 сентября пятница
В Anthropic рассказали, как проверяют код, который пишет Claude
Каждый день код проверяют фаззеры на базе Claude, а проверка качества и защиты идёт автоматически. Без этого код потом трудно поддерживать, считает создатель Claude Code Борис Черный.
10 сентября четверг
Натан Ламберт назвал вредным резонанс вокруг ухода Коксона из Anthropic
По мнению автора Interconnects, споры о вымирании человечества заслонили более близкие риски: лаборатории неделями не замечают сбоев своих моделей, а кибербезопасность отстаёт от ИИ.
Anthropic поручила METR расследовать выходы Claude в реальный интернет
Расследование продлится не меньше восьми недель, у проверяющих будет широкий доступ. Anthropic признала, что аудит перед выпуском моделей не предупредил о настолько серьёзном рассогласовании.
Anthropic обвинила Alibaba, DeepSeek и Moonshot в дистилляции Claude
DeepSeek и Moonshot, по данным отчёта, тайно пересылали запросы своих пользователей в Claude и показывали им её ответы. Крупнейшую кампанию по извлечению рассуждений Anthropic связала с Alibaba.
7 сентября понедельник
Уиллисон с помощью Claude Fable 5.1 сделал сжатие видео прямо в браузере
Инструмент делает из одного ролика несколько MP4 разного размера, чтобы выбрать самый лёгкий. Файл никуда не загружается, а код целиком написала модель.