На пути внедрения ГенИИ: развеиваем предубеждения бизнеса и сотрудника

Внедрение генеративного ИИ вызывает у компаний не только интерес, но и сомнения. В топ страхов руководителей входят экономическая неэффективность проектов, сложности в работе ассистента с корпоративными системами и технические ограничения. У пользователей свои опасения: от достоверности ответов до галлюцинаций. Однако все эти сложности не так страшны, как кажутся.

Опасения со стороны бизнеса, которые не всегда оправданы

Внедрение генеративного ИИ в клиентском сервисе и управлении знаниями неизбежно вызывает у бизнеса опасения, как и большинство новых перспективных технологий. Ведь они требуют инвестиций и представляют собой по сути проверку гипотез. Опрос «Апекс Берг» проанализировал основной спектр рисков при внедрении ИИ-ассистентов в контактных центрах, по мнению самих компаний. 48% участников опасаются, что с внедрением ИИ клиентский сервис значительно не улучшится, а затраты вырастут, 28% предвидят сложности с интеграцией в ИИ-сервис существующих систем, 23% опасаются технических ограничений, 18% ожидают роста угроз для кибербезопасности

Экономические риски, связанные с тем, что проект по внедрению генИИ не окупится, а эксплуатацию ИИ-помощника будет слишком дорого поддерживать, — частое ограничение для выделения бюджетов на внедрение ИИ. Когда компания начинает работу с новыми технологиями и при отсутствии релевантных примеров в отрасли, ей особенно сложно решиться на финансирование инноваций. Однако принятие решения можно облегчить с помощью пилотных проектов. Пилот покажет реальную экономику проекта: бизнес сможет оценить соотношение между затратами на проект и его выгодами.

Технические и интеграторские сложности решаются с помощью привлечения вендора, имеющего большой опыт в реализации подобных проектов и обладающего насмотренностью и экспертизой. Важно, что такой партнер, как Naumen, сможет сразу выявить подводные камни, если препятствия для реализации проекта действительно существуют. Чаще всего они преодолимы. То же самое касается интеграции ИИ-инструментов с существующими ИТ-системами: здесь многое зависит от опыта поставщика решений. Так, если компания внедряет Naumen KMS Copilot в контакт-центре, то специалисты Naumen помогут быстро встроить его в рабочее место оператора.

Главные вопросы пользователей по работе с Naumen KMS Copilot

Со стороны сотрудников также есть опасения по поводу работы с ИИ-инструментами. Naumen провела опрос компаний в своем Телеграм-канале и выявила основные триггеры. На первом месте (так ответили 47% респондентов) оказалась невозможность проверить, на чем основаны ответы ИИ-ассистента. Специально чтобы разрешить эти сомнения, в ответах Naumen KMS Copilot всегда содержатся ссылки на использованные источники информации (статьи в базе знаний или иных корпоративных ресурсах).

Он не ищет данные на незнакомых и случайных ресурсах и не выдает в качестве результата свои беспочвенные рассуждения.

Для 40% сотрудников, участвовавших в опросе, сложно правильно задать вопрос и создать промпт, чтобы получить релевантный ответ.

Это принципиально отличает поиск с ИИ-ассистентом от классического — по ключевым словам.

40% опрошенных Naumen сотрудников опасаются, что Naumen KMS Copilot будет «галлюцинировать», выдавая заведомо нелогичные и недостоверные ответы. Такое мнение распространено, но представляет собой обычный стереотип. ИИ-ассистент ищет информацию только в проверенных источниках, и это уже сильно снижает возможность неверного ответа. Кроме того, его защита от галлюцинирования обеспечивается на уровне заданных разработчиками промтов: сначала ассистент находит нужные статьи, и только потом генерирует ответ. Затем следует этап валидации ответа, это дополнительный защитный слой против галлюцинаций.

В перспективе планируется добавить новый функционал: Naumen KMS Copilot будет предлагать пользователям несколько смежных тем и дополнительных вопросов, чтобы уточнить запрос.

Часть сотрудников также опасается, что ИИ-ассистент будет отвечать недостаточно быстро. Это ключевой фактор для операторов в контактном центре. Для других подразделений он не столь критичен.

Базовое условие: как эффективность Naumen KMS Copilot связана с качеством знаний

В реальности качество ответов Naumen KMS Copilot зависит не столько от того, умеет ли пользователь правильно формулировать вопросы, сколько от качества базы знаний в организации. Оно влияет и в целом на работу контакт-центра. Если компания использует хорошо структурированную базу знаний, которая содержит понятные и актуальные статьи с инструкциями для операторов, количество ошибок при консультациях снижается в среднем на 30%. Качественная база знаний прямо отражается и на работе Naumen KMS Copilot: благодаря ей точность и корректность его ответов возрастает на 44%. Если же база знаний ведется бессистемно и отсутствует постоянная актуализация информации, то для максимально эффективной работы ассистента просто нет условий. Ведь он имеет дело с уже созданным контентом и обучается на готовых дата-сетах, которые должны быть структурированы и корректны. Кроме того, сложности с работой ИИ-ассистента могут возникать, например, из-за наличия разноформатных источников в базах знаний. Чтобы их решить, Naumen использует ряд OCR-инструментов для извлечения информации из разных форматов, в том числе с картинок и PDF, и последующего ее перевода в текст.