ИИтак

← Назад

Стартап &Truth разрабатывает систему математической проверки кода

По замыслу &Truth, ИИ-агент поможет разработчику уточнить требования, напишет код и запустит математическую проверку, чтобы выяснить, соблюдены ли эти требования.

Стартап &Truth строит систему математической проверки программ. ИИ помогает составить доказательство того, что код выполняет заданное требование, а инструмент Lean проверяет каждый шаг доказательства.

тесты показывают, как программа ведёт себя в выбранных случаях. Формальная верификация позволяет доказать, что программа соблюдает заданное требование во всех предусмотренных им случаях.

«Никогда не знаешь наверняка, все ли проблемы нашёл или осталась ещё одна, которую инструмент не видит», — сказал сооснователь &Truth Кларк Барретт, объясняя изданию Latent Space, чего не гарантируют тесты и другие привычные проверки.

по замыслу Барретта, разработчик сначала уточнит требования вместе с ИИ-агентом, а агент подключит инструмент проверки. Для программы на языке C, например, можно потребовать, чтобы она обращалась к памяти только в пределах выделенных ей участков.

В октябре модель Claude в отдельном эксперименте Anthropic и Theorem доказала, что выбранные тестовые программы из 123 открытых библиотек завершаются без сбоев. По отчёту Anthropic, доказательство охватывало все входные данные размером менее 64 МБ в смоделированной среде Linux на процессорах RISC-V. В этой среде программы работали в один поток с фиксированным объёмом памяти и с библиотеками, включёнными в исполняемый файл.

в отдельном замере Anthropic дала моделям 36 небольших задач на формальную верификацию. Claude Opus 5.5 решила половину из них и потратила примерно на 40% меньше токенов1, чем Opus 5 при той же доле решённых задач.

← Все новости