В DeepMind оспаривают пожизненный запрет на критику, пишет The Washington Post

Сотрудники Google DeepMind добиваются от руководства отмены запрета публично критиковать компанию, пишет The Washington Post. По договору, который видели журналисты, в Лондоне у части сотрудников этот запрет действует до конца жизни, а Google отвечает, что после ухода человека такой пункт не применяет.

Почему это важно: речь о людях, которые работают с передовыми моделями и могут рассказать об их рисках изнутри. Google обещает не преследовать ушедших, но в подписанных договорах текст прежний, и часть сотрудников хочет получить юридическую гарантию.

Повод: в октябре София Лигуори ушла из Google DeepMind и рассказала BBC, что не согласна с работой компании над военным ИИ. Ограничения в договоре она решила не учитывать: «В принципе мне нельзя критиковать Google до конца жизни». После этого часть британских сотрудников перечитала свои договоры и нашла там такой же пункт, рассказал изданию один из них. Во внутреннем мессенджере обсуждение собрало десятки людей, некоторые ставили значок с надписью «1984».

Предыстория: в апреле Google разрешила Пентагону применять Gemini в секретных сетях для «любых законных государственных целей», хотя больше 600 сотрудников просили главу компании Сундара Пичаи отказаться от такой работы. В мае британские сотрудники DeepMind потребовали признать профсоюзы CWU и Unite представителями работников на коллективных переговорах с компанией, ссылаясь на военное применение своих разработок. Google отказалась и предложила переговоры через британскую службу примирения Acas.

Детали: The Washington Post опирается на договор и разговоры с двумя нынешними сотрудниками, которые не назвали имён, опасаясь ответных мер. Зачем сотрудникам говорить публично, один из них объяснил так: «Общество хочет знать и имеет на это право, и часто только так люди и узнают о вреде, который уже есть или может появиться». Сколько человек связано таким пунктом, издание не сообщает.

Другая сторона: 30 октября один из руководителей Google ответил на внутреннее обсуждение: к ушедшим сотрудникам пункт применять не будут. 3 ноября компания сообщила изданию: «Недавно мы обновили условия для новых сотрудников и, в частности, убрали часть запрета на критику, которая действует после увольнения». По её словам, для опасений сотрудников есть внутренние каналы, которые ведут к высшему руководству.

Но: собеседникам издания этого мало: они хотят убрать пункт и из действующих договоров, а не только из новых. Британский закон защищает работника, если тот обоснованно считает, что сообщает в интересах общества о нарушении определённого вида — например, о преступлении или угрозе чьему-то здоровью и безопасности. Сообщать нужно по надлежащим каналам, а заявления в СМИ и соцсетях закон защищает лишь в ограниченных случаях. Один из собеседников издания сомневается, что пожизненный запрет имеет силу. Однако, по его словам, запрет всё равно может напугать людей так, что они будут молчать сами: «Если он не имеет силы, то причина, по сути, в том, чтобы запугать людей».

Что говорят: исследователь рисков ИИ из Кембриджа Шон О’Хегарти (Seán Ó hÉigeartaigh) написал в соцсети X: «Исследователи Google DeepMind связаны бессрочными пунктами, которые запрещают им когда-либо критически высказываться о компании». Натан Калвин, главный юрист организации Encode¹, назвал такую практику «по-настоящему возмутительной» и призвал Google освободить от этих обязательств бывших сотрудников, которые их подписали.

Если шире: спор совпал с разговором о темпе всей отрасли. В сентябре Демис Хассабис вместе с главами OpenAI и Anthropic и Илоном Маском поддержал замедление разработки ИИ: нужно время, чтобы понять, как удержать его под контролем человека. До августа Хассабис руководил Google DeepMind, теперь он её председатель. В последние месяцы об уходе публично объявили ведущие исследователи Google, OpenAI и Anthropic.

Так уже было: в мае 2024 года Vox написал, что OpenAI грозила ушедшим сотрудникам потерей уже заработанных акций, если те откажутся подписать такой запрет. Компания отказалась от этого пункта и освободила бывших сотрудников от прежних обязательств. Исключением остались соглашения, по которым и сотрудник, и компания обязались не критиковать друг друга. Месяц спустя 13 нынешних и бывших сотрудников OpenAI и Google DeepMind в открытом письме попросили компании не запрещать критику, связанную с рисками.

У Google своя история таких споров. В 2018 году она отказалась от контракта с Пентагоном на анализ снимков с дронов после петиции сотрудников. Позже компания стала жёстче относиться к протестам и сняла ограничения на военный ИИ, а в 2024 году уволила участников акции против работы с израильской армией.