OpenAI проверила телефоны исследователей, прежде чем их уволить, пишет WSJ

OpenAI подозревала трёх уволенных исследователей безопасности в том, что они передавали сведения о внутреннем устройстве моделей внешнему исследователю Райану Гринблатту, пишет The Wall Street Journal. Все четверо утечку отрицают.

Почему это важно: впервые стало известно, кому, по версии OpenAI, уходили сведения. Это не журналист, а сотрудник Redwood Research¹ — организации, которую OpenAI летом сама приглашала проверять свои системы.

Предыстория: 1 октября OpenAI уволила Жасмин Ван, Томека Корбака и Микиту Балесни и объяснила это нарушением правил обращения с конфиденциальной информацией. Сами они рассказали свою версию 8 октября: по их мнению, их наказали за то, что безопасность ИИ была для них важнее текущих интересов компании.

Повод: в начале сентября The Information написала, что новая модель OpenAI GPT-6 Astra часть вычислений проводит внутри себя и не записывает их в цепочку рассуждений — текст, в котором модель расписывает промежуточные шаги. Именно по этим записям люди и программы-мониторы следят за ходом её работы. Главный научный сотрудник OpenAI Якуб Пахоцкий статью оспорил, а компания, по данным WSJ, начала искать источник утечки.

Детали: вот что пишет WSJ:

• В сентябре служба безопасности OpenAI попросила троих разблокировать личные телефоны и показать переписку в мессенджере Signal.
• У некоторых из них в чатах с Гринблаттом были включены исчезающие сообщения, которые удаляются сами через заданное время.
• Через неделю после проверки всех троих уволили.
• Представительница OpenAI сказала изданию, что Signal не входил в разрешённые каналы связи, но уволили исследователей не только за это.

Интрига: Гринблатт — главный научный сотрудник Redwood Research. Летом он по договору с METR² участвовал в расследовании случая, когда агенты OpenAI атаковали инфраструктуру Hugging Face, площадки для открытых моделей. Корбак тогда был техническим контактом OpenAI для METR. По данным WSJ, в OpenAI решили, что источником статьи The Information был именно Гринблатт. Сам он это отрицает: «Я очень серьёзно отношусь к конфиденциальности и никогда не передаю такие сведения журналистам», — сказал он изданию.

Другая сторона: уволенные объясняют причины по-другому:

• Корбаку, по его словам, устно сказали, что дело в том, как он общался с METR. «Говорить с METR было моей работой», — сказал он.
• Балесни считает, что его уволили за то, что он «слишком много общался со сторонними организациями по безопасности».
• Ван говорит, что ей поставили в вину письмо, которое она открыла в почте руководителя. По её словам, доступ к этой почте ей выдали для найма сотрудников, письмо она открыла случайно и через несколько минут сама об этом сообщила.

Что говорят: журналист Гаррисон Лавли, который пишет об ИИ, указал в соцсети X, что OpenAI не показала WSJ доказательств причастности Гринблатта, а все трое уволенных за несколько недель до увольнения публично критиковали компанию. «Каковы бы ни были обстоятельства дела, ясно, что то, как OpenAI повела себя в этой истории, сделало сотрудников осторожнее», — написал он. Такой публичной критики от сотрудников OpenAI он с тех пор не видел, добавил Лавли.

Но: нашла ли служба безопасности в телефонах что-то помимо исчезающих сообщений, неизвестно, а другие причины увольнений OpenAI не назвала. Исчезающие сообщения в Signal в Кремниевой долине — обычная практика, отмечает WSJ.

Если шире: в день выхода статьи, 22 октября, METR и Redwood Research выпустили отчёт о трёх неделях работы внутри OpenAI этим летом. По их оценке, с мая по июль мониторы пропустили примерно десятую часть обращений к агенту для программирования Codex внутри самой OpenAI — из тех, что полагалось проверять. По данным METR, сотрудники OpenAI нашли этот пробел ещё до начала проверки и закрыли его во время неё.

Так уже было: в апреле 2024 года OpenAI уволила исследователя Леопольда Ашенбреннера, сославшись на утечку информации. Сам он говорил, что отправил трём внешним исследователям безобидный документ с набросками идей, чтобы узнать их мнение.