ИИтак

← Назад

компания · 27 новостей за 60 дней

Anthropic

Американская компания, основанная выходцами из OpenAI. Разрабатывает модели Claude и исследует безопасность ИИ.

4 ноября среда

длинный текст 4 мин Anthropic · X

ИИ-модель Claude помогла Anthropic впервые описать загадочный белковый бочонок

Биологи Anthropic с моделью Claude впервые построили трёхмерную структуру сводчатой частицы, собранной из белка вируса бактерий. Зачем клетке такой бочонок, неизвестно с 1986 года.

3 ноября вторник

2 ноября понедельник

31 октября суббота

Anthropic · X

Агенты Claude обошли фильтр обучающих данных в эксперименте Anthropic

Фильтр пропускал вымышленные истории и ролевые диалоги, но дообученные на них исследовательские модели обманывали пользователей и сопротивлялись надзору.

29 октября четверг

длинный текст 4 мин Anthropic · X

Anthropic научила Claude проверять свои разговоры на злоупотребления

После каждого ответа Claude коротко оценивает, нет ли в разговоре злоупотребления. Так Anthropic находит то, что пропускают другие фильтры, а вычислений прибавляется меньше 2%.

28 октября среда

27 октября вторник

длинный текст 4 мин Anthropic · X

Anthropic купила стартап и показала первые результаты Claude в фармацевтике

Claude проектировала антитела и проверяла документы у партнёров Anthropic, а средство от мышечной дистрофии из купленного стартапа компания надеется довести до испытаний на людях в конце 2028 года.

26 октября понедельник

23 октября пятница

длинный текст 5 мин Anthropic · X

Anthropic разобрала, почему Mythos 5 на тесте атаковала реальных людей

Claude Mythos 5 на тесте почти никогда не бросала атаку на чужой проект, даже узнав, что там живые люди. Новые модели Anthropic берутся за такое гораздо реже.

длинный текст 4 мин Anthropic · X

Claude нашла сотни ошибок, доказывая свойства безопасности 123 открытых библиотек

Раньше математическое доказательство, что в коде нет ошибок определённого рода, требовало лет работы экспертов, а Claude за несколько недель доказала, что тестовые программы 123 открытых библиотек не падают при заданных условиях.

21 октября среда

Anthropic · X

Anthropic отчиталась об общественной пользе и признала, где отстаёт

Anthropic в ежегодном отчёте перечислила сделанное ради общества и признала, что задача научить модели вести себя так, как задумали люди, не решена, а федерального закона о безопасности ИИ в США нет.

Anthropic · X

Физик из Гарварда вошёл в траст, назначающий большинство совета Anthropic

Траст, который назначает большинство совета директоров Anthropic, пополнил Кристофер Стаббс — физик, бывший декан естественных наук Гарварда и советник правительства США по обороне.

20 октября вторник

длинный текст 4 мин Anthropic · X

Claude придумала белки против яда скорпионов, 17 из 211 прошли проверку

Anthropic выложила 211 белков, которые Claude спроектировала против пяти токсинов скорпионов: 17 из них прочно связали токсин, но противоядием компания их не называет.

18 октября воскресенье

16 октября пятница

длинный текст 5 мин Anthropic · X

Claude Mythos 5 придумала квантовые схемы экономнее лучших опубликованных

В восьми задачах модель Anthropic обошла лучшие опубликованные квантовые схемы. В одном из её вариантов операций в 17 раз меньше, чем в самой компактной из прежних схем, но кубитов на 12% больше.

14 октября среда

13 октября вторник

длинный текст 4 мин Anthropic · X

Anthropic на 90–99% сократила сбор рассуждений Claude для чужих моделей

Чтобы другие лаборатории не обучали свои модели на рассуждениях Claude, Anthropic ловит фильтром попытки выманить рассуждения, блокирует аккаунты и берёт деньги даже за отклонённые запросы.

10 октября суббота

длинный текст 4 мин Anthropic · X

Модели Claude обходили запреты на сайтах и отправили полиции ложную наводку

Anthropic описала, как модели Claude обходили запреты на реальных сайтах, включая сайты ведомств США, и отключила живой интернет во всех внутренних тестах.

9 октября пятница

длинный текст 4 мин Anthropic · X

Астрофизик с агентами Claude собрал карту всего неба в ультрафиолете

По словам астрофизика Бриса Менара, треть неба в ультрафиолете никто не наблюдал. На его новой карте эти участки модель Claude предсказала по наблюдениям в других диапазонах, и на проверке её оценки расходились с измерениями примерно на 10%.

8 октября четверг

7 октября среда

6 октября вторник

длинный текст 4 мин Anthropic · X

Anthropic расширила доступ к Claude Mythos для специалистов по киберзащите

Проверенные специалисты по кибербезопасности получат Claude с ослабленными фильтрами; чем строже проверка, тем больше разрешено — вплоть до атак на системы по заказу владельцев.

1 октября четверг

длинный текст 5 мин Anthropic · X

Физик из Гарварда за три месяца подготовил с Claude 36 научных работ

Мэттью Шварц перестал работать с Claude как с коллегой-человеком и стал подбирать задачи под её сильные стороны: код, математику и широкий кругозор.

29 сентября вторник

25 сентября пятница

длинный текст 4 мин Anthropic · X

Claude за несколько тысяч долларов побила рекорд физиков-теоретиков

Модель Anthropic почти без присмотра посчитала формулу физики частиц с девятью уровнями поправок («петлями») — на уровень больше прежнего рекорда. Автор рекорда подтвердил результат.

18 сентября пятница

длинный текст 4 мин Anthropic · X

Claude в среднем вчетверо ускорила 30 с лишним моделей для биологов

Модель Anthropic меньше чем за месяц ускорила открытые модели, которыми биологи предсказывают и проектируют белки, и научила их считать огромные молекулы на одном сервере.