OpenAI построила систему Control Room, чтобы быстро останавливать модели
Внутренняя система OpenAI следит за всеми задачами моделей на исследовательских серверах компании и позволяет быстро их остановить, если возникнут опасения за безопасность.
OpenAI представила Control Room — внутреннюю систему, которая следит за задачами моделей на исследовательских серверах компании и может быстро их остановить.
Детали: система отслеживает, какие задачи модели выполняют по всей исследовательской инфраструктуре OpenAI и где именно они идут. Работу останавливают, когда возникают опасения, что она несёт риски или угрожает защите систем от атак.
Компания подаёт Control Room как способ сохранить за людьми контроль над тем, что делает ИИ.