Искусственный интеллект
Качество данных для ИИ: как найти причину ошибок
Ошибки и галлюцинации в работе ИИ не всегда связаны с мощностью модели. Причина может быть в дублированных данных, неверной разметке, устаревшей информации или в том, что обучающая выборка не соответствует реальным условиям работы компании. Рассказываем, как проверить качество данных, отделить проблемы данных от ошибок модели и понять, что нужно менять перед масштабированием ИИ.
Содержание:
Как качество данных влияет на работу ИИ
Качество данных зависит от того, насколько они подходят для конкретной задачи и условий работы ИИ. ГОСТ Р 71484.2-2024 описывает характеристики и показатели качества данных для аналитики и машинного обучения. Так, среди характеристик качественных данных для ИИ:
Универсального объёма данных, которого хватит для работы любой модели, нет. Для одной задачи достаточно небольшой выборки, а для другой даже массива данных может оказаться мало.
Читайте также: Цифры против интуиции. Data-driven-подход в менеджменте
Какие проблемы с данными проверить в первую очередь
Перед обучением модели нужно проверить качество данных: найти пропуски, очистить массив от дублей и неверных значений, исправить ошибки разметки.
Пропуски, дубли и неточности в значениях
ГОСТ Р 71484.3-2024 рекомендует выявлять пропуски, дубли, выбросы, смещения, дрейф и нестандартные значения, а также проверять результат очистки данных. Ошибки могут возникать при ручном вводе, интеграции ИТ-систем, переносе данных или изменении бизнес-логики. В результате появляются противоречия, которые нарушают связи между данными — из-за них и появляются галлюцинации.
Чтобы избежать ошибок, нужно проверить:
Ошибки в разметке данных
Полностью исключить ошибки сложно, поэтому важно контролировать процесса разметки. ГОСТ Р 71484.3-2024 рекомендует определить правила разметки, требования к исполнителям, порядок отбора данных и способы контроля качества меток.
Различия между обучением и эксплуатацией
Даже в наборе без технических ошибок может оказаться информация, которую модель не будет использовать в реальной работе. Тогда результаты тестирования будут лучше, чем качество работы после запуска. Google выделяет две проблемы:
В обоих случаях модель может успешно проходить тесты, но допускать ошибки после запуска.
Нерепрезентативные и устаревшие данные
Данные для ИИ также могут устаревать. Если меняются поведение клиентов, продукты или источники информации, набор, который раньше подходил для обучения, может перестать отражать текущую ситуацию.
Низкое качество текстовых данных
Для языковых моделей имеет значение не только техническое качество данных, но и содержание текстов, на которых они обучаются.
В эксперименте 2025 года исследователи дообучали модели на обычных текстах, низкокачественных вирусных публикациях и материалах с громкими заголовками. Чем выше была доля низкокачественного контента, тем хуже становились результаты генерации моделей.
Как проверить, действительно ли ошибка связана с данными
NIST AI RMF (от англ. Artificial Intelligence Risk Management Framework — «система управления рисками искусственного интеллекта») рекомендует тестировать как модель, так и данные. Дело в том, что галлюцинация после запуска может быть связана с моделью, бизнес-логикой, интеграцией или обновлением данных. Поэтому систему проверяют поэтапно и после каждого теста меняют только один компонент.
Зафиксировать ошибку на контрольном наборе
На старте тестирования нужен набор примеров (упражнений для ИИ) с заранее известным правильным результатом. Контрольная выборка должна быть близка к реальным условиям, в которых работает система.
После проведения теста и получения первых результатов можно исправить данные, которые вызывают подозрения, при этом не менять модель и её настройки. Если на тех же примерах результат улучшается, данные для ИИ, вероятно, были одной из причин ошибки. Если результат не меняется, нужно проверять модель, признаки или интеграцию.
Сравнить данные обучения и рабочие данные
Одна из причин ошибок — различия между данными, на которых ИИ-модель обучали, и теми, которые она получает после запуска.
Стоит проверить:
Определить, на каком этапе масштабируется ошибка
Google рекомендует оценивать качество данных по разным срезам. Например, по источнику данных, региону, типу клиента, устройству или периоду. Если число ошибок растёт после подключения нового источника, стоит проверить именно новые данные.
Для RAG-систем (от англ. retrieval-augmented generation — «генерация с дополнением извлечённым контекстом») нужно проверить:
Также эксперты предлагают оценивать работу RAG-системы поэтапно: от качества извлечения данных к качеству ответа и корректности ссылок.
Какие показатели качества данных контролировать
Набор отслеживаемых метрик зависит от задачи бизнеса. Данных может хватать для поиска документов, но быть недостаточно для прогнозирования спроса или автоматического принятия решений.
К показателям также можно добавить репрезентативность. Она показывает, насколько обучающие и тестовые данные соответствуют реальным объектам, пользователям и условиям, в которых будет работать ИИ-модель. NIST рекомендует задавать пороги репрезентативности и проверять, насколько фактическая область применения системы совпадает с той, для которой её создавали.
В каких случаях нужно менять модель или сценарий работы ИИ
Если данные полные и репрезентативные, но качество ответов ИИ всё равно снижается, причину стоит искать в модели или сценарии использования. Google рекомендует формулировать цель продукта, ожидания от модели и показатели успеха.
До выбора модели определите, в каких процессах ИИ способен дать измеримый результат и как его оценивать. Подробнее — в материале о том, как определить, в каких процессах ИИ принесёт наибольшую эффективность.
Например, ИИ-модель для контакт-центра может точно прогнозировать вероятность повторного обращения. Но если бизнесу нужно оптимизировать действия оператора и снизить число обращений на линию, увеличение обучающей выборки не решит проблему.
Как встроить контроль качества данных в рабочий процесс
Качество данных нужно контролировать на всём жизненном цикле. ГОСТ Р 70889-2023 охватывает работу с данными от их комплектования и подготовки до эксплуатации и вывода из использования. ГОСТ Р 71484.3-2024 рекомендует закреплять роли и ответственность за качество данных.
Такой подход также указан в международном стандарте ISO/IEC 5259. В нём содержатся рекомендации по управлению качеством данных для аналитики и машинного обучения. Перед настройкой метрик нужно определить, какое решение должен принимать ИИ, в каких условиях он будет работать и какие данные ему для этого нужны. После этого можно установить требования к полноте и актуальности данных, а также допустимый уровень ошибок.
Проверить данные при поступлении
Для каждого источника можно настроить автоматические проверки:
Критически важные данные нужно дополнительно проверять вручную.
Назначить ответственных
NIST AI RMF рекомендует закрепить владельцев данных — ответственных за мониторинг ИИ-систем и порядок действий при инцидентах. Сотрудники, которые отвечают за качество выборки, должны фиксировать происхождение обучающих и тестовых данных, правила их отбора, разметки и очистки. Это поможет быстрее находить источник проблемы, если качество системы изменится.
Контролировать данные после запуска ИИ
Даже качественный набор данных со временем может перестать соответствовать рабочим ситуациям. Меняются тренды, поведение клиентов, ассортимент, документы, процессы и источники данных.
После запуска команде нужно регулярно сравнивать текущие показатели с результатами тестирования до внедрения, отслеживать изменения во входных данных и уведомлять владельцев об аномалиях.
Что проверить в качестве данных перед масштабированием ИИ
При масштабировании растут требования как к инфраструктуре, так и к качеству данных. Перед расширением модель нужно протестировать на данных пилота и на новых сегментах:
Систему стоит проверять в условиях, близких к реальной эксплуатации, и ещё до теста фиксировать ограничения её применения.
Масштабирование и трансформацию бизнеса эксперты вместе с гостями обсудят на конференции SberPro Tech 29 октября в Москве. В программе: внедрение технологий, перестройка процессов и повышение их эффективности. В 2026 году заявлены более 20 спикеров, 30 докладов и кейсы компаний.
Кроме того, до масштабирования нужно определить, что делать, если качество системы снизится. Для этого задают:
Проверка качества данных не заканчивается после запуска. Метрики нужно контролировать и во время эксплуатации.
О том, какие задачи возникают при переходе от пилота к масштабному внедрению генеративного ИИ, слушайте в подкасте «Цифра в деле».
Перед расширением нужно сравнить пилот и будущий контур по объёму данных, числу пользователей, частоте запросов и количеству интеграций. Затем — провести нагрузочное тестирование и рассчитать стоимость обработки данных. Решение можно расширять на всю компанию, когда подтверждено качество системы: она стабильно работает на репрезентативных данных, выдерживает ожидаемую нагрузку, остаётся управляемой после запуска.
Ошибки в работе ИИ связаны не только с самой моделью, но и с качеством, актуальностью и репрезентативностью данных.
Что это значит для бизнеса:
Частые вопросы
ИИ работает точнее, если данные подходят для задачи компании, соответствуют реальным условиям работы, актуальны и не содержат пропусков, дублей, противоречий или ошибок разметки. Даже большой объём неподходящих или низкокачественных данных не гарантирует хороший результат.
Нужно зафиксировать ошибку на контрольной выборке, исправить подозрительные данные, не меняя модель и её настройки, и повторить тест. Если результат улучшился, данные, вероятно, были одной из причин. Еесли нет — следует проверить модель, признаки, интеграцию и бизнес-логику.
Следует проверить полноту и актуальность, дублирование данных, неверные значения, разметку, соответствие обучающей выборки рабочим условиям и различия между обучением и эксплуатацией. Для RAG-систем проверяют, найден ли нужный документ и правильно ли модель сформировала ответ по найденному контексту.
Основные характеристики: полнота, уникальность, согласованность, своевременность, валидность, точность и репрезентативность. Набор метрик и допустимые пороги определяют с учётом конкретной задачи и условий работы ИИ.
Алина Носова
Автор