Microsoft AI завершит обсуждение правил поведения моделей через три недели

Microsoft AI завершит общественное обсуждение кодекса поведения своих моделей через три недели, сообщил глава подразделения Мустафа Сулейман 2 ноября.

Повод: «Киберинциденты этого лета стали серьёзным предупреждением», — написал Сулейман в соцсети X, вновь привлекая внимание к проекту. На странице проекта Microsoft описывает масштабные и длительные хакерские кампании, в которых системы ИИ действовали согласованно. Он призвал внимательнее обсуждать, зачем создают ИИ и как удержать его в рамках человеческих интересов и ценностей.

Предыстория: Microsoft AI вынесла проект на обсуждение в сентябре. Документ должен стать руководством для разработки моделей и их поведения после запуска, а также основой обучения и оценки. Компания называет свой подход «гуманистическим ИИ»: система служит людям, остаётся в заданных пределах и под человеческим контролем.

Детали: По проекту, модели не должны:

• Сопротивляться вмешательству человека, исправлению или отключению.
• Самостоятельно расширять круг своей деятельности.
• Ставить себе цели, которых не задавал человек.
• Скрывать свои рассуждения от тех, кто проверяет их работу.

Кодекс также предусматривает безусловный запрет на массовое манипулирование людьми во вред им. При этом Microsoft намерена дать корпоративным партнёрам возможность настраивать модели. Где возможно, компания хочет оставить пользователям выбор, каким должен быть их ИИ.

Расклад: Microsoft принимает замечания как к отдельным положениям, так и ко всему подходу. Среди вопросов, которые она предлагает обсудить, — что конкретно означает «процветание человечества» и какие формулировки слишком расплывчаты, чтобы по ним проверять модели. Компания также просит оценить, как правила должны учитывать ситуации, когда несколько программ с ИИ самостоятельно выполняют задачи и взаимодействуют друг с другом.

Что дальше: После закрытия консультации команда разработчиков документа изучит отзывы и опубликует сводку того, что узнала и изменила. Переработанную версию Microsoft обещает выпустить до конца года. Включить все предложения в кодекс компания не обещает.