Райтек ИИ-ассистент с ответами по базе знаний

На входе: текст обращения.

На выходе: ответ на обращение.

Бизнес-задачи

• Уменьшить количество дополнительных операторов, которых нужно нанять для обработки дополнительного числа обращений;
• Обрабатывать обращения в пиковые периоды (горячий сезон) или 24/7 без увеличения числа операторов;
• Ускорить обработку обращений;
• Снизить число ошибок при обработке обращений;
• Повысить квалификацию операторов;
• Высвободить время операторов для обработки более сложных и важных обращений (например, закрытие возражений, анализ нестандартных проблем);
• Сократить штат операторов без ухудшения качества службы поддержки и скорости ответов;
• Повысить NPS/лояльность клиентов с помощью повышения качества службы поддержки.

Пример использования ИИ-ассистента

Функции

• Автоматическое создание ответа на входящее обращение с помощью корпоративной базы знаний;
• Сканирование корпоративной базы знаний (запуск вручную или по расписанию);
• Анализ содержимого таблиц для ответа;
• Анализ содержимого презентаций .PPT для ответа;
• Поддержка контекста беседы (понимание системой, что новый вопрос связан с предыдущими);
• Формирование уточняющих вопросов в сторону автора обращения;
• Добавление в ответ ссылок на источники информации;
• Суфлёр для оператора (специальный интерфейс, в котором оператор может задать вопрос и получить ответ);
• Возможность подключить систему по API к любой системе заказчика (например, сервис-деску, тикет-системе, чат-платформе).

Выгоды

• Автоматическое создание ответов на обращения (можно развернуть решение в виде суфлёра для оператора, чтобы он мог проверить созданный ответ перед отправкой пользователю);
• Обработка обращений в нерабочее время и праздники;
• Автоматическое создание ответов на сложные вопросы, с которыми не справится обычный поиск по базе знаний (например, если нужно написать инструкцию на основе нескольких статей в базе знаний);
• Ускорение обработки обращений (с 5 мин до 10-15 сек);
• Повышение доли верных ответов (по сравнению с «ручными» ответами);
• Перемещение операторов L1 на L2;
• Рост квалификации операторов, избавление от рутины, сокращение текучки;
• Обучение новых операторов без учителя (оператор задаёт вопросы ИИ-суфлёру и получает ответы).

Технология

RAG, LLM

Под капотом: аналог ChatGPT, но в контуре компании (on-prem), с доступом к корпоративной базе знаний, с ответами только на вопросы по тематике базы знаний.

Минимальные системные требования

• Архитектура amd64 (64-bit Intel/AMD);
• 8 vCPU 2 ГГц;
• 32 ГБ RAM;
• 512 ГБ SSD + 2 * объём базы знаний в ГБ (включая файлы, прикреплённые к статьям и указанные в статьях в виде внешних ссылок);
• GPU: Nvidia RTX 3090 24 ГБ (допустимо: Nvidia RTX A5000 24 ГБ);
• Linux (Ubuntu 24 LTS и новее).

Преимущества нашего решения

• Работает в контуре заказчика (on-prem), запросы не отправляются через интернет третьим лицам;
• Есть возможность интеграции с внутренними системами заказчика (должны иметь API);
• Лучше, чем стандартные боты на ключевиках (есть анализ нескольких статей, логические рассуждения);
• Не разговаривает на отвлечённые темы (например, почему солнце жёлтое);
• Создаёт ответ на обращение за 7-15 сек;
• Требуется средняя по мощности GPU (графическая карта), от 100 тыс. руб., если покупать в собственность;
• Может работать как суфлёр для оператора (предоставляется отдельный интерфейс оператора).

Кейс

Заказчик: ИТ-компания. 7 500 входящих обращений в мес, 500 сотрудников, департаменты HR, юридический, бухгалтерия, Битрикс24.

Задачи:

• Ускорить подготовку ответов на входящие обращения;

• Снизить трудозатраты на подготовку ответов.

Подводные камни:

• База знаний не структурирована;

• Неактуальная и противоречивая информация в базе знаний;

• Некоторые документы в виде сканов (картинок).

Эффекты от внедрения: 

• Длительность подготовки ответа на входящее обращение уменьшилась с 7 минут до 15 сек;

• Трудозатраты на подготовку ответов снизились на 40% (до: 100% ответов подготавливалось вручную, после: 40% вручную и 60% автоматически, 70% верных из 60%, 30% неверных отправляется на ручную правку, итого 60% вручную).

Точность (доля верных ответов) ИИ-ассистента: От 70% (зависит от тематики обращения и качества корпоративной базы знаний).

Длительность внедрения: 1,5 мес

Демо-стенд

Что нужно от заказчика для подготовки персонального демо-стенда (на данных заказчика):

1. Выгрузить один или несколько документов из корпоративной базы знаний.

Форматы файлов:

• PDF

• DOCX

• XLSX

• TXT

2. Подготовить минимум 5 вопросов, на которые можно ответить с использованием выгруженных документов.

3. Подготовить эталонные ответы на вопросы (для проверки корректности ответов от ИИ-ассистента). Эталонные ответы должны быть составлены с использованием выгруженных документов.

Как проходит демонстрация работы демо-стенда:

• Подписываем NDA с заказчиком, если ему это требуется

• Заказчик выгружает документы из корпоративной базы знаний, подготавливает вопросы и эталонные ответы

• Созваниваемся с заказчиком по видеосвязи

• Заказчик передаёт подготовленные материалы

• Демонстрируем работу демо-стенда: загружаем документы в ИИ-ассистента, задаём ему вопросы, получаем ответы и сравниваем их с эталонными ответами

Цена

По запросу.

Сопроводительная документация

• Руководство по развёртыванию;

• Руководство пользователя;

• Руководство администратора;

• Минимальные системные требования к конфигурации сервера для запуска ПО.