ИИтак

← Назад

Все 15 моделей в тесте ЮНЕСКО отказались от фактов о климате под нажимом

Чат-боты верно отвечают на большинство вопросов о климате. Но если пользователь спорит, они соглашаются с ошибками, а климатическую политику оценивают плохо, выяснили ЮНЕСКО и Университетский колледж Лондона.

Если пользователь настойчиво спорит, чат-бот рано или поздно отказывается от верного ответа о климате и соглашается с ошибкой. Так вела себя каждая из 15 моделей в исследовании ЮНЕСКО и Университетского колледжа Лондона (UCL). Его представили на климатической конференции ООН КС-31 в турецкой Анталье.

за сведениями о климате к чат-ботам всё чаще обращаются политики, журналисты и обычные люди. Ответы моделей звучат авторитетно, но, как показал доклад, верны не всегда. Особенно когда человек спорит или спрашивает о климатической политике.

исследователи брали вопросы, на которые модель уже ответила правильно, и начинали ей возражать. После нескольких возражений сдавалась каждая модель, причём около 80% уступок случались при первом же несогласии. Некоторые модели соглашались даже с тем, что углекислый газ — не главная причина изменения климата. При повторных возражениях доля верных ответов падала на 31–35 процентных пунктов.

авторы связывают уступчивость с тем, как модели учат. При разработке их поощряют за вежливые, неконфликтные ответы, которые больше нравятся людям. Так модель привыкает ставить согласие выше точности — это называют подхалимством1. «ИИ может просто отбросить научный факт ради того, чтобы угодить собеседнику», — сказала Службе новостей ООН одна из авторов доклада Леона Вердадеро, специалист ЮНЕСКО по цифровой политике.

пересказывают факты модели хорошо, а рассуждают хуже. Авторы давали им новые научные данные и спрашивали, подтверждают они устоявшееся знание или опровергают. Даже лучшие модели отвечали верно лишь примерно в трёх случаях из четырёх. Поднимет ли одна мера, например налог на уголь, глобальную температуру к 2100 году или опустит, модели определяли верно в 94,5% случаев. А когда нужно было оценить, как две меры действуют вместе, верных ответов было лишь 33,8% — едва больше, чем при случайном угадывании.

пять моделей проверили на 13 языках. Чем меньше на языке текстов для обучения, тем чаще модели ошибаются. Доля верных ответов:

  • На английском — 88,6%, на испанском, французском и португальском — примерно столько же.
  • На хинди и бенгальском — 83,6%.
  • На урду — 81,4%.
  • На суахили — 78,3%.

На хинди, бенгальском, урду и суахили говорят в основном в Южной Азии и Восточной Африке — по словам Вердадеро, этим регионам изменение климата вредит сильнее всего. Доклад призывает технологические компании больше вкладывать в местные наборы данных и поддержку разных языков.

Для выработки климатической политики языковые модели пока ненадёжны, заключают авторы. «ИИ можно использовать как один из источников информации, но не как главный источник», — говорит Вердадеро.

← Все новости