The Anthropic Institute
Исследовательское подразделение компании Anthropic, которое изучает, как мощные системы ИИ влияют на общество. Его основные направления — распространение ИИ в экономике и влияние на рабочие места, угрозы и устойчивость к ним, поведение ИИ-систем в реальном использовании и исследования, которые ведёт сам ИИ. В подразделении работают экономисты, социологи и инженеры машинного обучения; результаты публикуются для сторонних исследователей, правительств и широкой публики.
проверено по: anthropic.com ↗
См. также
- Frontier Red TeamИсследовательская команда Anthropic, которая проводит стресс-тестирование передовых моделей компании: выясняет, на что они способны в опасных областях — кибербезопасности, национальной безопасности (включая оружие) и автономных системах, в том числе робототехнике, — и заранее оценивает, что станет возможным дальше. Это конкретное подразделение компании, а не общий метод ред-тиминга. Свои выводы команда публикует открыто.
- Anthropic STEM Fellows ProgramПрограмма стажировок Anthropic. Исследователи и специалисты в области математики, естественных наук и инженерии (обычно с PhD или сопоставимым опытом) несколько месяцев работают вместе с командами компании. Участники составляют задачи и оценки для проверки Claude, ищут, где модель ошибается, и применяют её к открытым научным проблемам своей области. Опыт в машинном обучении желателен, но не обязателен. От Anthropic Fellows Program, которая посвящена прежде всего исследованиям безопасности ИИ, эта программа отличается упором на научные и инженерные дисциплины.
- Claude ScienceРабочая среда Anthropic для учёных, прежде всего в биологии и разработке лекарств. В ней Claude подключён к научным базам данных и инструментам и сам выполняет вычислительные исследовательские задачи. Каждый полученный результат, например график или структура белка, сохраняется вместе с кодом и окружением, в которых он получен, чтобы его можно было проверить. Это не отдельная модель: среда работает на обычных моделях Claude.
В новостях
Сотрудники Anthropic ждут, что к 2030 году ИИ сможет делать 75% их работы
Внутренний аналитический центр Anthropic во главе с сооснователем компании Джеком Кларком. Объединяет команды, которые изучают, как ИИ влияет на экономику, общество и безопасность.
Anthropic опросит пользователей Claude об ИИ и опубликует интервью желающих
Исследовательское подразделение Anthropic во главе с сооснователем компании Джеком Кларком. Изучает, как мощный ИИ меняет экономику, безопасность и общественные институты.