В Anthropic считают, что код от Claude надо проверять строже, чем код людей

Код, который Claude пишет для рабочих систем, должен проходить более строгую проверку, чем код программистов. Так считает Борис Черный (Boris Cherny) из Anthropic. Его слова процитировал в своём блоге разработчик Саймон Уиллисон.

Черный перечислил, как это устроено в самой Anthropic. Код проверяют правила линтера и множество тестов. Сам Claude прогоняет сквозные тесты, то есть проверяет программу целиком, как с ней работал бы пользователь. Каждый день запускаются фаззеры на основе Claude: они подают программе случайные и некорректные данные и ищут, где она сломается. Проверку кода и проверку безопасности тоже делают автоматически, как и переработку кода.

«Без этого можно получить бардак, который потом будет трудно поддерживать», — предупреждает Черный.

Он говорит о внутренней практике Anthropic, а не о новом продукте. Сколько кода в компании пишет Claude и сколько ошибок ловят такие проверки, Черный не уточнил. Но совет понятен и тем, кто просто поручает модели писать код: чем больше пишет машина, тем больше автоматики нужно, чтобы этот код проверять.