Правда или миф: пользователи не доверяют генеративному ИИ

В бизнес-среде бытует убеждение, что генеративный ИИ пока не заслуживает доверия из-за склонности к фактическим ошибкам и конфиденциальным рискам. Руководители часто разделяют этот скепсис, считая технологии сырыми для критически важных задач.

Вместе с Евгением Виноградовым, директором департамента аналитических решений ЮMoney, разбираемся, насколько обосновано такое отношение к технологии сегодня.

С какими ограничениями сталкивается бизнес при работе с генеративным ИИ

Генеративный искусственный интеллект появился на рынке относительно недавно, и пользователи пока привыкают к новому формату взаимодействия. Главный барьер — специфические риски технологии.

• Галлюцинации моделей. ИИ способен выдавать фактические ошибки за достоверную выдумку. Евгений Виноградов приводит пример из личного опыта, когда нейросеть составила юридически грамотный на вид документ, но использовала в нём несуществующие термины.
• Избыточность и многословие. Тексты ИИ часто страдают водой. Например, сгенерированное нейросетью техническое решение может оказаться в пять раз длиннее, чем лаконичное описание методологии, сделанное опытным ИТ-архитектором. Это порождает парадокс: нейросетевые тексты приходится сжимать с помощью других ИИ-сервисов.

Как автоматизация рутины побеждает недоверие пользователей: примеры из практики

Несмотря на существующие проблемы, мнение о тотальном недоверии к нейросетям устарело, считает Евгений Виноградов. Статистика доказывает обратное. Разбираем на примере использования генеративного ИИ для оптимизации внутренних и клиентских процессов.

• Повышение эффективности сотрудников. Компания ЮMoney успешно внедрила генеративный ИИ в разработку (для анализа кода и поиска специфических ошибок) и клиентский сервис: ИИ-агенты обрабатывают входящие запросы, анализируют их и помогают человеку составить максимально точный ответ.
• Поддержка предпринимателей. Опыт, полученный внутри компании, ЮMoney масштабирует на своих партнёров: готовые ИИ-инструменты помогают бизнесу автоматизировать процессы маркетинга и продаж. Пользователи передают нейросетям задачи по описанию целевой аудитории, созданию текстов для карточек товаров, подготовку коммерческих предложений. Это сильно сокращает трудозатраты.

Замеры удовлетворённости ИИ-помощником ЮChat демонстрируют, что даже на этапе первых версий показатель повторного использования и готовности рекомендовать инструмент составляет 70%. Люди быстро понимают выгоду: пробуют ИИ для одной задачи, а затем применяют повсеместно, говорит Евгений Виноградов.

Рекомендации эксперта: как делегировать задачи ИИ

Чтобы взаимодействие с нейросетями было эффективным и безопасным, Евгений Виноградов советует придерживаться базовых правил.

1. Сохранять контроль. Полностью передавать ИИ-агенту право принимать решения или отправлять ответы клиентам без проверки специалистом пока рано. Человек должен выступать финальным верификатором.
2. Развивать навыки критического мышления. Главный вызов для сотрудника сегодня — умение перепроверить и подтвердить результат, выданный моделью.
3. Искать разумный баланс. Не стоит пытаться автоматизировать всё подряд. На старте нужно чётко определить зоны, где применение генеративного ИИ приносит измеримую пользу.

Заключение. Установка на недоверие к генеративному ИИ постепенно уходит в прошлое. Сегодня большинство компаний не просто готовы делегировать нейросетям рутинные задачи, но и начинают оценивать их практическую отдачу. По данным ВЦИОМ, почти половина россиян уже полагается на искусственный интеллект, а доля скептиков стабильно снижается.

«Технология уже не денется никуда. Она ищет своё место, и во многих нишах уже нашла», — резюмирует Евгений Виноградов. Главная задача для бизнеса сейчас — найти разумную комбинацию использования ИИ, чётко определить области, где его применение целесообразно, и трезво оценивать результаты взаимодействия систем.

Редакция СберПро

Автор

• Чтобы быть в курсе важных трендов и мнений ведущих экспертов, следите за нами в канале в Max. О развитии навыков управления, личностном росте пишем в «Дзене». Про технологии и развитие в IT — в блоге на VC.