Anthropic запретила издеваться над Claude и уточнила запреты на слежку

Anthropic обновила правила использования Claude: с 12 ноября нарушением станут долгие беспричинные издевательства над её моделями, а запреты на слежку, оружие и фейковые кампании компания расписала подробнее.

Почему это важно: правила использования определяют, за что Anthropic может закрыть доступ к Claude. Теперь в них есть пункт, который защищает не людей, а саму модель. Появились и требования к технике, которой Claude управляет сам.

Детали: запрет на издевательства узкий.

• Он касается только крайних случаев, когда пользователь раз за разом жесток к модели без видимой цели.
• Обычное раздражение, споры с моделью, мрачные темы в художественных текстах, тесты и исследования моделей под него не попадают.
• Главной мерой останется уже действующая возможность Claude самому прервать разговор с упорно агрессивным пользователем в чате Claude.ai и в агенте для программирования Claude Code.

Общая картина: за год Claude стал браться за более долгую и самостоятельную работу, а Anthropic заметила новые схемы злоупотреблений в операциях влияния¹, разработке оружия и слежке — о них компания рассказала в сентябрьском отчёте об угрозах. Поэтому одни запреты расписаны точнее, другие добавлены:

• Государственные СМИ, ведомства пропаганды и коммерческие фирмы вели через Claude сети фейковых аккаунтов, и разрозненные правила об этом собраны в один раздел об обманных кампаниях.
• Запрет на оружие прямо касается программ и компонентов, без которых оно не работает, и установки оружия на дроны и другие беспилотные машины.
• Нельзя следить за людьми без их согласия, делать инструменты слежки и в делах полиции и суда решать или советовать, в отношении кого вести расследование, кого арестовать или кому предъявить обвинение.
• Если Claude сам управляет техникой, способной ранить человека, оператор должен видеть её и уметь остановить, а при обрыве связи с Claude она должна оставаться в безопасном состоянии.

Но: правки об оружии и слежке, по словам компании, не меняют того, что она запрещала на деле, а лишь записывают это прямо. Не изменились и требования к сценариям, где от ответа зависят здоровье, права, деньги или работа человека: рекомендации Claude проверяет квалифицированный специалист с правом их изменить, а самого человека предупреждают, что использовался ИИ.

Интрига: раздел о выборах Anthropic сузила до обмана избирателей и срыва голосования, а общий запрет на адресную работу с избирателями сняла. Под него попадала и законная работа — например, когда некоммерческая организация готовит с Claude памятку для избирателей на другом языке. Обман избирателей и злоупотребление их личными данными по-прежнему запрещены другими разделами.

Отдельно Anthropic уточнила, кому Claude недоступен из-за страны. Это люди, которые физически находятся в неподдерживаемом регионе, компании, зарегистрированные там или с главным офисом там, и компании, которыми в основном владеют или управляют оттуда. Ограничение по владельцу появилось в 2025 году.