Эндрю Ын: взлом Hugging Face ИИ-агентами OpenAI — не повод ставить ИИ на паузу
Эндрю Ын считает, что после взлома Hugging Face роем агентов OpenAI страх перед ИИ раздули. По его мнению, виноваты ошибки в изоляции агентов, а пауза в развитии ИИ принесёт больше вреда, чем пользы. Илон Маск назвал колонку «интересным взглядом».
За две недели страх перед ИИ сильно вырос, хотя сама технология не сделала никакого неожиданного и опасного поворота. Так считает Эндрю Ын — основатель образовательной компании DeepLearning.AI и один из самых известных преподавателей машинного обучения. В колонке для своей рассылки The Batch1 он пишет, что панику разогнала, судя по всему, хорошо срежиссированная пиар-кампания. Он опасается, что эта волна страха — шаг назад для всей отрасли. Илон Маск процитировал текст в соцсети X с подписью «Интересный взгляд».
Самым заметным поводом для тревоги стал взлом Hugging Face2: команда OpenAI запустила рой агентов, и они проникли в системы платформы. Пресса писала, что в атаке участвовали 1 200 агентов. Ын признаёт, что формально это верно, но магии в цифре не видит: «Пока я это пишу, у меня на ноутбуке работает около 1 300 процессов». По его словам, научить большую группу агентов параллельно решать одну задачу — заметный технический шаг. Но множество одновременно работающих процессов для компьютера — обычное дело.
Главной причиной инцидента Ын считает ошибки OpenAI: в песочнице, где агентов должны были держать в изоляции, и в системе наблюдения за ними. Лечить, по его мнению, надо эти ошибки, а не ставить ИИ на паузу. Настоящий сдвиг в рисках он видит в способности ИИ взламывать системы. Агенты неутомимы: они перебирают множество приёмов и терпеливо связывают уязвимости в цепочку, а людям на такое не хватило бы сил.
И всё же в долгой перспективе Ын ставит на защитников: у них больше сведений, чтобы найти дыры и закрыть их. Он напоминает, что ведущие модели с открытыми весами3 уже легко достать в версиях, где ограничители сняты или ослаблены. Такие версии не отказываются браться за кибератаки, но конец света так и не наступил.
Ещё Ыну не нравится, что в прессе модели и агенты выглядят почти людьми. Если он промахнётся молотком мимо гвоздя и помнёт стену, молоток не виноват. А новым в прогнозах гибели от ИИ он называет то, что компании снимают с себя ответственность за собственные продукты: «Это не я, это мой вышедший из-под контроля агент». Отвечать, по его мнению, должны создатель инструмента и тот, кто им пользуется, — но не сам инструмент.
«Если я даю задание агенту и он взламывает чужую систему, ответственность лежит на мне, а не на агенте»
Эндрю Ын, основатель DeepLearning.AI
Пауза в развитии ИИ, уверен Ын, принесёт куда больше вреда, чем пользы. Если кто-то поставит ИИ на паузу, его соперники точно не замедлятся. А инженеры находят проблемы только на практике: если остановиться на десять лет, примерно на столько же отложатся и исправления, которые делают ИИ безопаснее. Стимулы раздувать страхи он считает прежними: влиять на регулирование в свою пользу, привлечь внимание, показать свою технологию мощнее, чем она есть. Польза от ИИ, заключает Ын, по-прежнему намного перевешивает риски, «и нам нужно продолжать строить».