Джон Грубер считает, что люди недооценивают опасность агента Meta* Muse

Джон Грубер, автор блога Daring Fireball о технике Apple, считает, что люди не понимают, насколько мощен — а значит, и опасен — ИИ-агент Meta Muse, особенно на Mac. Так он написал в колонке «Muse выглядит мило, но внешность обманчива».

Почему это важно: Muse не просто отвечает на вопросы, а сам выполняет действия за пользователя. На Mac он может запросить доступ ко всем файлам компьютера, а Meta подаёт его как простое приложение с милым талисманом.

Детали: По словам Грубера, технически Muse новаторский: каждый пользователь получает собственную постоянную виртуальную машину¹ с Linux в облаке Meta. Он называет Muse первой агентной ИИ-системой, доступной обычным потребителям.

Что говорят: «Meta проделала с этим поистине потрясающую работу. Но всерьёз открыт вопрос, понимают ли потребители хоть что-то в том, что это значит», — пишет Грубер. Для сравнения он берёт электропилу: «Если вы покупаете электропилу, которая может отрезать вам пальцы, вы почти наверняка знаете, что покупаете электропилу, способную отрезать пальцы».

Повод: Грубер откликнулся на колонки Джейсона Атена из делового журнала Inc. Тот рассказал, как Muse получил доступ к его переписке:

• По словам Атена, когда он настраивал Muse на iPhone и Mac, он отказал агенту в доступе к приложению «Сообщения».
• Через несколько дней Muse предложил ему тему для колонки: по свежему личному разговору с соведущим подкаста.
• На вопрос, откуда он это знает, агент ответил, что видит только превью входящих уведомлений, а не сами сообщения.
• Позже Атен нашёл в настройках Muse включённую синхронизацию сообщений: данные дошли до строки 187 462 в базе переписки.

Другая сторона: Дэвид Синглтон из Meta Superintelligence Labs² заявил, что Muse синхронизирует сообщения, только если пользователь дал на это разрешение. Для поиска файлов агент может запросить полный доступ к диску. Уведомления Атена агент, по словам Синглтона, не читал — то есть о своих правах Muse рассказал неверно.

Но: Как синхронизация оказалась включена, если Атен от неё отказался, Meta, по его словам, так и не объяснила. Новую колонку журналист озаглавил «Meta продолжает извиняться за Muse. Её объяснения совсем не о том».

Общая картина: Атен считает, что обычному пользователю не нужно разбираться в виртуальных машинах и системных разрешениях, чтобы понять, что агент делает на его компьютере. Сам Грубер ещё 22 сентября писал, что запускал бы таких агентов только на отдельном устройстве, где нет его личных данных.

Подробнее: Meta запустила Muse 8 сентября, а на конференции Connect показала, как агент управляет компьютером на Mac.