Джон Грубер назвал агента Meta* Muse опасным, особенно на Mac. Что случилось

Пользователи не понимают, насколько мощен и потому опасен ИИ-агент Meta Muse, особенно если он установлен на Mac, написал автор блога Daring Fireball Джон Грубер. Muse сам выполняет поручения пользователя на телефоне и компьютере. Колонку Грубера процитировал в своём блоге Саймон Уиллисон.

«Если вы покупаете электропилу, которая может отрезать вам пальцы, вы почти наверняка понимаете, что покупаете электропилу, способную отрезать пальцы», — пояснил Грубер. По его словам, понимают ли покупатели, что значит установить Muse, — большой вопрос.

Грубер больше 20 лет пишет об Apple и технологиях. Агенту Meta он отдаёт должное. Технически это новаторская разработка: каждый пользователь получает в облаке Meta собственную постоянную виртуальную машину¹ Linux. При этом агента легко установить, им легко пользоваться, а подаётся он в виде милого талисмана. Грубер называет Muse первой агентной ИИ-системой, доступной обычным потребителям.

Поводом для колонки стала история колумниста журнала Inc Джейсона Атена. По его словам, при установке он отказал Muse в доступе к сообщениям. Позже агент предложил ему тему для колонки, опираясь на его личную переписку. На вопрос, откуда он это знает, Muse ответил, что видит только превью уведомлений на Mac.

Атен выяснил, что агент скопировал локальную базу приложения Messages — по его словам, больше 187 000 записей. Для такого нужно разрешение macOS «Полный доступ к диску»: оно позволяет программе читать файлы в любом месте компьютера. «Если ваша основная аудитория не понимает, что значит полный доступ к диску, не стоит удивлять её сообщением „Я читаю вашу переписку“», — написал Атен.

Meta ответила, что Muse не следит за уведомлениями, а доступ к Messages включается только с разрешения пользователя. Там признали, что агент неверно объяснил, как работает функция, и извинились. Давал ли Атен согласие, стороны оценивают по-разному.

Ранее, 23 сентября, на конференции Connect Meta расширила возможности Muse: агент получил собственную почту, управление компьютером на Mac и подключения к более чем 1 500 сервисам.