RAND предложила США стратегию «свободы действий» на пути к сверхинтеллекту

Аналитический центр RAND¹ опубликовал доклад о стратегии США на пути к сверхинтеллекту². Он советует не выбирать один курс заранее, а сохранять «свободу действий». Доклад разобрал сооснователь Anthropic Джек Кларк в своей рассылке Import AI.

Авторы исходят из того, что следующий этап развития ИИ во многом непредсказуем. Поэтому цель стратегии они видят в одном: сохранить способность обеспечить США геополитическое преимущество, а человечеству — выживание при переходе к сверхинтеллекту, чтобы люди при этом продолжали сами решать свою судьбу.

Стратегия RAND держится на четырёх направлениях:

• экосистема людей и ИИ: вложения в безопасность ИИ, распределение выгод от технологии, подготовка общества к потрясениям;
• система безопасности ИИ: средства следить за передовыми системами в США и за рубежом, в том числе за вычислительными мощностями, и проверять выполнение возможных соглашений;
• перестройка всех институтов национальной безопасности под эпоху ИИ;
• способность граждан, компаний и властей реагировать: информация для тех, кто принимает решения, планы на случай кризиса, грамотность в вопросах ИИ.

Всего авторы описывают семь стратегий в трёх группах. Первая группа предполагает сосуществование с ИИ. В неё входят доминирование США, совместная разработка безопасного сверхинтеллекта с консорциумом стран, включая Китай, и неформальная координация с добровольными обязательствами.

Вторая группа строится на запрете. Это проверяемая глобальная остановка разработки выше заданных порогов или сдерживание: США останавливают собственную разработку и всеми средствами не дают другим странам её вести, вплоть до уничтожения чужих программ. Крайний вариант — рассредоточенные поселения, которые сами обеспечивают себя и защищены от угроз ИИ. К нему прибегают, если все остальные меры провалились. Третья группа — ускорение: рынок и конкуренция должны дать безопасность как побочный продукт полезного ИИ.

Выбор между ними, по докладу, зависит от пяти вопросов. Насколько близка опасность? Возможно ли устойчивое сосуществование людей и ИИ? Удастся ли странам договориться о сдерживании? Может ли один игрок получить решающее преимущество? Можно ли подавить чужие программы технологическим контролем? «Если опасность близка, предпочтение стоит отдать стратегиям, которые выигрывают время, строят защиту и вкладываются в устойчивость», — пишут авторы.

Кларк считает главным выводом доклада то, что США придётся тратить много денег, даже если речь лишь о сохранении вариантов. Нынешний курс страны, по его оценке, в основном соответствует ускорению. «Для меня это похоже на то, как сидеть в машине и тратить все ресурсы на то, чтобы она ехала быстрее, и на новый двигатель, и ничего — на ремни безопасности, фары или тормоза», — написал Кларк.