RAND советует США сохранить свободу выбора на пути к сверхинтеллекту

Аналитический центр RAND¹ советует США не ставить всё на одну стратегию на пути к сверхинтеллекту², а уже сейчас вкладываться в то, что пригодится при любом сценарии.

Почему это важно: доклад предлагает государству готовиться сразу к нескольким вариантам будущего, а не выбирать вслепую между гонкой и остановкой разработки ИИ.

Повод: доклад RAND вышел 16 сентября. Авторы назвали предложенную в нём стратегию «свободой действий». Её цель — сохранить за США геополитическое преимущество и провести человечество через переход к сверхинтеллекту так, чтобы оно выжило и не утратило способности решать за себя.

Детали: вкладываться уже сейчас авторы предлагают в четыре направления:

• Безопасность ИИ, инструменты, которые оставляют решения за людьми, распределение выгод от технологии и подготовка общества к потрясениям.
• Средства следить за передовыми системами ИИ в США и за рубежом, в том числе за вычислительными мощностями, и технологии проверки будущих соглашений.
• Перестройка всех ведомств национальной безопасности, чтобы они были готовы к переменам и умели пользоваться возможностями ИИ.
• Аварийные планы на случай кризиса, сведения об ИИ для тех, кто принимает решения, и обучение граждан грамотности в ИИ.

Расклад: авторы описывают семь стратегий, о которых сейчас спорят, и делят их на три группы:

• Сосуществование: США лидируют и подавляют соперников, возглавляют консорциум с участием Китая или договариваются с другими неформально — через добровольные обязательства и независимые проверки.
• Отказ: проверяемая всемирная остановка разработки ИИ выше оговорённых порогов или остановка у себя с готовностью при необходимости уничтожать чужие программы.
• Ускорение: ставка на рынок, конкуренцию и быстрые итерации в расчёте, что безопасность появится как побочный продукт полезного ИИ.

Интрига: третья стратегия из группы «отказа» рассчитана на худший случай: предотвратить угрозу не удалось, а ужиться с ИИ нельзя. Тогда США строят географически разнесённые, биологически самодостаточные поселения, защищённые от угроз со стороны ИИ, чтобы хотя бы часть людей сохранила самостоятельность.

Но: лучшую стратегию доклад не называет. По мнению авторов, выбор зависит от пяти вопросов, на которые пока нет ответа. Например, насколько близка опасность, могут ли люди и ИИ ужиться и может ли одна страна добиться решающего перевеса над остальными.

Что говорят: Джек Кларк, сооснователь Anthropic и автор рассылки Import AI³, по его словам, видит в нынешней политике США ту самую стратегию ускорения из доклада. «По-моему, это всё равно что сидеть в машине и тратить все ресурсы на то, чтобы она ехала быстрее, и на новый мотор, но ничего — на ремни безопасности, фары или тормоза», — пишет он.