Microsoft начала работу над стандартами независимой проверки ИИ
Microsoft и её партнёры начали работу над открытыми стандартами, чтобы компании могли проверять действия ИИ по собственным записям независимо от поставщика модели.
Microsoft представила Microsoft AI Transparency Initiative — программу, в которой компания намерена вместе с другими участниками отрасли продвигать открытые стандарты для ИИ.
Детали: стандарты должны помочь компаниям следить за действиями ИИ и задавать, что ему разрешено. Microsoft также хочет, чтобы системы можно было проверять независимо, а безопасность закладывали при их разработке. В пресс-релизе Microsoft приводит пример: компания сможет по записям в своих системах безопасности проверить, к каким данным обращался ИИ и что он сделал.
Глава Microsoft AI Мустафа Сулейман написал в соцсети X, что прозрачность нужна, чтобы сверхинтеллект следовал намерениям людей и оставался под их контролем. В Microsoft AI сверхинтеллектом называют ИИ, который превосходит по интеллекту и возможностям всех людей вместе взятых.
Для моделей, которые разрабатывает Microsoft AI, у подразделения есть отдельный проект кодекса поведения. 2 ноября Сулейман говорил, что его обсуждение завершится через три недели. Проект запрещает моделям скрывать рассуждения от проверяющих и сопротивляться отключению.