Райтек ИИ-ассистент с ответами по базе знаний

На входе: текст обращения.

На выходе: ответ на обращение.

Решаемые проблемы

• Необходимость увеличивать штат с ростом объёма обращений;
• Неожиданные скачки нагрузки на операторов. Кто-то заболел, уволился, ушёл в незапланированный отпуск. В итоге операторы всё время перегружены;
• Есть «горячий сезон» по обращениям (например, конец квартала, Новый год). Невыгодно нанимать дополнительных операторов, так как в остальное время они будут простаивать;
• Чтобы обработать обращения в нерабочее время, 24/7 и в праздники приходится нанимать новых операторов или оплачивать дополнительные смены уже трудоустроенным;
• Медленная обработка обращений;
• Слишком трудозатратное обучение новых операторов;
• Есть пиковые часы по обращениям, операторы плохо справляются;
• Операторы не успевают узнавать об обновлениях в базе знаний. Инструкция обновилась, а операторы продолжают отвечать по старой памяти;
• Когда база знаний становится слишком большой, операторам всё сложнее в ней ориентироваться. Скорость ответа падает, доля ошибок растёт;
• Качество поддержки сильно разнится от оператора к оператору. Есть операторы, кто "тащат", а есть, кто регулярно косячит. В итоге нет стабильности, клиенты жалуются на поддержку;
• Операторы не могу выдавать стабильное качество поддержки. Плохое настроение, не выспался, расстался с девушкой, заболел, пропала собака. Это ведёт к снижению качества и скорости работы;
• Высокая текучка операторов. Постоянная гора обращений, однотипные вопросы, нет времени на более глубокий анализ сложных вопросов, негатив в сообщениях от клиентов. В итоге операторы выгорают, увольняются. Приходится постоянно тратить время и деньги на поиск и обучение новых.

Бизнес-задачи

• Уменьшить количество дополнительных операторов, которых нужно нанять для обработки дополнительного числа обращений;
• Обрабатывать обращения в пиковые периоды (горячий сезон) или 24/7 без увеличения числа операторов;
• Ускорить обработку обращений;
• Снизить число ошибок при обработке обращений;
• Повысить квалификацию операторов;
• Высвободить время операторов для обработки более сложных и важных обращений (например, закрытие возражений, анализ нестандартных проблем);
• Сократить штат операторов без ухудшения качества службы поддержки и скорости ответов;
• Повысить NPS/лояльность клиентов с помощью повышения качества службы поддержки.

Пример использования ИИ-ассистента

Функции

• Автоматическое создание ответа на входящее обращение с помощью корпоративной базы знаний;
• Сканирование корпоративной базы знаний (запуск вручную или по расписанию);
• Анализ содержимого таблиц для ответа;
• Анализ содержимого презентаций .PPT для ответа;
• Поддержка контекста беседы (понимание системой, что новый вопрос связан с предыдущими);
• Формирование уточняющих вопросов в сторону автора обращения;
• Добавление в ответ ссылок на источники информации;
• Суфлёр для оператора (специальный интерфейс, в котором оператор может задать вопрос и получить ответ);
• Возможность подключить систему по API к любой системе заказчика (например, сервис-деску, тикет-системе, чат-платформе).

Выгоды

• Автоматическое создание ответов на обращения (можно развернуть решение в виде суфлёра для оператора, чтобы он мог проверить созданный ответ перед отправкой пользователю);
• Обработка обращений в нерабочее время и праздники;
• Автоматическое создание ответов на сложные вопросы, с которыми не справится обычный поиск по базе знаний (например, если нужно написать инструкцию на основе нескольких статей в базе знаний);
• Ускорение обработки обращений (с 5 мин до 10-15 сек);
• Повышение доли верных ответов (по сравнению с «ручными» ответами);
• Перемещение операторов L1 на L2;
• Рост квалификации операторов, избавление от рутины, сокращение текучки;
• Обучение новых операторов без учителя (оператор задаёт вопросы ИИ-суфлёру и получает ответы).

Технология

RAG, LLM

Под капотом: аналог ChatGPT, но в контуре компании (on-prem), с доступом к корпоративной базе знаний, с ответами только на вопросы по тематике базы знаний.

Минимальные системные требования

• 16 vCPU или 8 физических ядер CPU, 2 ГГц, архитектура x86-64;
• 32 ГБ RAM;
• 512 ГБ SSD + 2 * суммарный объём баз знаний в ГБ (для баз знаний в виде web-страниц - в объём должны быть включены текстовые файлы, прикреплённые к статьям, а также текстовые файлы, указанные в статьях в виде ссылок на внешние ресурсы);
• GPU: Nvidia RTX 3090 24 ГБ (допустимо: Nvidia RTX A5000 24 ГБ);
• Linux: Ubuntu 24 LTS.

Преимущества нашего решения

• Работает в контуре заказчика (on-prem), запросы не отправляются через интернет третьим лицам;
• Есть возможность интеграции с внутренними системами заказчика (должны иметь API);
• Лучше, чем стандартные боты на ключевиках (есть анализ нескольких статей, логические рассуждения);
• Не разговаривает на отвлечённые темы (например, почему солнце жёлтое);
• Создаёт ответ на обращение за 7-15 сек;
• Требуется средняя по мощности GPU (графическая карта), от 150 тыс. руб., если покупать в собственность;
• Может работать как суфлёр для оператора (предоставляется отдельный интерфейс оператора).

Бесплатные готовые интеграции с базами знаний

• Битрикс24 База знаний;
• Confluence.

Интеграции с другими базами знаний

По запросу.

Кейс

Заказчик: ИТ-компания. 7 500 входящих обращений в мес, 500 сотрудников, департаменты HR, юридический, бухгалтерия, Битрикс24.

Задачи:

• Ускорить подготовку ответов на входящие обращения;

• Снизить трудозатраты на подготовку ответов.

Подводные камни:

• База знаний не структурирована;

• Неактуальная и противоречивая информация в базе знаний;

• Некоторые документы в виде сканов (картинок).

Эффекты от внедрения: 

• Длительность подготовки ответа на входящее обращение уменьшилась с 7 минут до 15 сек;

• Трудозатраты на подготовку ответов снизились на 40% (до: 100% ответов подготавливалось вручную, после: 40% вручную и 60% автоматически, 70% верных из 60%, 30% неверных отправляется на ручную правку, итого 60% вручную).

Точность (доля верных ответов) ИИ-ассистента: От 70% (зависит от тематики обращения и качества корпоративной базы знаний).

Длительность внедрения: 1,5 мес

Демо-стенд

Что нужно от заказчика для подготовки персонального демо-стенда (на данных заказчика):

1. Выгрузить один или несколько документов из корпоративной базы знаний.

Форматы файлов:

• PDF

• DOCX

• XLSX

• TXT

2. Подготовить минимум 5 вопросов, на которые можно ответить с использованием выгруженных документов.

3. Подготовить эталонные ответы на вопросы (для проверки корректности ответов от ИИ-ассистента). Эталонные ответы должны быть составлены с использованием выгруженных документов.

Как проходит демонстрация работы демо-стенда:

• Подписываем NDA с заказчиком, если ему это требуется

• Заказчик выгружает документы из корпоративной базы знаний, подготавливает вопросы и эталонные ответы

• Созваниваемся с заказчиком по видеосвязи

• Заказчик передаёт подготовленные материалы

• Демонстрируем работу демо-стенда: загружаем документы в ИИ-ассистента, задаём ему вопросы, получаем ответы и сравниваем их с эталонными ответами

Цена

По запросу.

Сопроводительная документация

• Руководство по развёртыванию;

• Руководство пользователя;

• Руководство администратора;

• Минимальные системные требования к конфигурации сервера для запуска ПО.