Эхуд Шапиро предложил закрепить ответственность за ИИ-агентов в соцсети

Эхуд Шапиро представил прототип соцсети без центрального оператора, где сообщения сохраняют цепочку пересылок, а каждый ИИ-агент связан с отвечающими за него участниками. Систему описывает научная работа на arXiv от 4 ноября.

Почему это важно: Следы действий сохраняются у других участников сети. По замыслу Шапиро, это позволит предъявлять претензии конкретным людям и компаниям за поведение агентов и распространение вредного контента.

Как это работает: Участники добровольно принимают общий договор — правила, определяющие допустимые действия в приложении и обязательства перед другими пользователями. Их смартфоны хранят данные и общаются напрямую со знакомыми участниками. Центрального сервера и единого владельца нет; сообщества, возникшие независимо, могут объединяться по взаимному согласию. На телефоне действие, требующее согласия человека, появляется как вопрос с разрешёнными договором вариантами ответа.

Расклад: Оператором ИИ-агента может быть человек или компания. При создании агента оператор подписывает заявление, что тот исполняет код, подписанный указанным разработчиком. Затем агент действует самостоятельно, но каждое новое знакомство и добавление в друзья требует согласия назначенного ответственного участника. Оператор, создавший агента, может прекратить его участие в сети; запись об операторе сохраняется для прежних действий.

Предлагаемый договор возлагает на разработчика ответственность за дефекты программы, а на управляющих ею участников — за неосторожное использование. Каждое действие агента содержит его цифровую подпись и заявление оператора. Часть правил обеспечивает сам протокол; остальные правила участники обязуются соблюдать сами. Система сохраняет подписанные обязательства и свидетельства нарушений этих правил, с которыми, по задумке Шапиро, можно обратиться в суд.

Детали: Каждый материал подписывает его автор, а при пересылке следующий участник добавляет свою подпись. Получатель видит всю цепочку. Удалить прежние подписи сторонней программой технически можно, но отправить результат внутри сети придётся под собственной. По правилам проекта такая отправка нарушает договор и оставляет подписанный материал у получателя.

Но: Подписи не устанавливают, правдив ли материал и создал ли его ИИ: подделку можно принести извне и подписать своим именем. Протокол также не отличает человека от программы, действующей с его ключом цифровой подписи; по договору за такие действия отвечает человек. Заявление оператора о коде агента тоже не подтверждает, какой код фактически исполняется.

Пока показанная работа приложений проходит в симуляторе iPhone: все участники запущены внутри одного экземпляра программы и общаются по внутренним каналам. Для формальной модели приведены доказательства свойств протокола, а приложения, по описанию Шапиро, собраны и протестированы. Исходный код открыт, однако проект ещё требует большой доработки, чтобы конкурировать с существующими соцсетями.