В Salesforce предложили два вопроса, чтобы решать, что поручать ИИ

Единой стратегии ИИ нет даже внутри одной компании, пишет вице-президент Salesforce Марк Эскобоса (Marc Escobosa): роль человека в каждой задаче зависит от того, можно ли проверить ответ модели и знает ли она достаточно. Эскобоса работает в Salesforce Futures — команде, которая помогает компании и её клиентам готовиться к разным вариантам будущего.

Детали: агенты хорошо пишут код, потому что у кода есть ясные правила и тесты, объясняет Эскобоса. А если агента спросить, снижать ли цену на плохо продающийся товар, он ответит так же уверенно, даже когда данных для такого решения у него нет.

Как это работает: из двух вопросов получаются четыре вида работы:

• Ответ можно проверить, и модели хватает знаний, как в программировании или поиске материалов с заданными свойствами: ИИ берёт на себя всё больше, а человек решает, что поручить, и ставит проверки.
• Ответ можно проверить, но модели не хватает знаний о самой компании: люди должны собрать неписаный опыт сотрудников и передать его ИИ.
• Ответ нельзя проверить вовремя, до решения, но примеров много, как в маркетинге и стратегии: ИИ выдаёт гладкий типовой ответ, а человек отбирает лучшее и ищет то, что отличает компанию.
• Ответ станет ясен, только когда решение уже принято, а подходящих прецедентов мало, как при покупке бизнеса на незнакомом рынке: ИИ находит допущения и доводы против, но решает и отвечает за последствия человек.

Интрига: по мысли Эскобосы, обойти соперников можно даже с той же моделью, что у них. Преимущество дают знания из переписки в Slack, разговоров в коридоре и голов опытных сотрудников: какой поставщик вечно срывает сроки, а какой ускорит заказ, если позвонить нужному человеку.

Расклад: такие знания уже собирают. Сотрудники сервисных служб носят на голове камеры, которые записывают, как на деле выполняется их работа. А стартап Mercor зарабатывает на том, что расспрашивает экспертов и продаёт их знания ИИ-лабораториям. Поэтому автор советует следить, чтобы данные компании и то, как в ней принимают решения, не попадали в обучение чужих моделей.

Но: у каждого вида работы свои риски, предупреждает Эскобоса:

• Если отдавать ИИ проверяемую работу слишком медленно, соперники уйдут вперёд, а если слишком рано, «можно автоматизировать ошибки так же эффективно, как успехи».
• В маркетинге опасен не плохой ответ, а грамотный на вид, но неоригинальный: у компаний, которые спрашивают одну и ту же модель, тексты со временем становятся похожими.

Сам автор называет свою схему упрощением. Задача может перейти в другой вид, когда у компании накопится контекст и появятся способы проверить ответ ИИ. Способности ИИ, по словам Эскобосы, неравномерны: «Стратегию компании нужно строить с учётом этой реальности, а не делать вид, что её нет».