ИИтак

← Назад

IBM доказала, что у небольших квантовых схем есть задачи, где им не соперничают даже LLM

Исследователи IBM математически доказали: есть две задачи, которые квантовые схемы малой глубины решают, а трансформеры и диффузионные языковые модели с ограниченными ресурсами — нет. Выигрыш пока чисто теоретический.

Изображение: IBM Research

Исследователи IBM нашли две задачи, на которых даже очень простые квантовые схемы гарантированно обходят языковые модели. Это не эксперимент на железе, а математическое доказательство. Работа выложена на arXiv.

Речь идёт о квантовых схемах малой глубины. Кубитов в них может становиться сколько угодно больше, а число последовательных шагов вычисления почти не растёт. В 2018 году сотрудники IBM Сергей Бравый, Дэвид Госсет и Роберт Кёниг показали в Science, что такие схемы решают задачи, недоступные таким же неглубоким классическим схемам. С тех пор классических соперников брали всё сильнее. Теперь их место заняли языковые модели, правда, в урезанном, теоретическом виде.

Первая задача — повторный поиск по указателю. Авторы описывают её так: вы открываете предметный указатель в конце книги, а он отсылает вас к указателю другой книги, оттуда к третьей и так далее. Вопрос — где закончится цепочка. Из прежних работ известно, что трансформеру, архитектуре GPT, Claude и Llama, для этого нужно много ресурсов. IBM доказала, что квантовая схема почти постоянной глубины с одним классическим логическим элементом справляется с задачей. Сделать её ещё мельче, по словам авторов, нельзя.

Вторая задача — сгенерировать случайные строки из нулей и единиц с заданной чётностью, то есть с чётным или нечётным числом единиц. Квантовая схема делает это легко за счёт запутанности и интерференции. Диффузионные языковые модели, которые пишут текст, постепенно очищая его от шума, с ней справляются плохо. Раньше это было доказано только для моделей без цепочки рассуждений. IBM распространила вывод и на модели, которым разрешено сначала записать промежуточные шаги.

Авторы сами оговаривают пределы работы. Нынешние квантовые компьютеры маленькие и ошибаются, а языковые модели работают на лучшем железе в огромных масштабах. Доказано лишь, что при достаточно большом размере задачи квантовая схема выиграет. На каком именно размере это случится, в статье не сказано.

Исследователи надеются, что по этим задачам можно будет составить настоящие бенчмарки для сравнения квантовых систем и языковых моделей. А в будущем квантовые вычисления, по их мнению, могли бы не соперничать с ИИ, а помогать ему там, где классическим системам не хватает мощностей.

← Все новости