Корпоративная платформа виртуальных сотрудников для поэтапной AI-трансформации бизнеса

Цель №1. Разгрузить подразделения компании за счёт внедрения платформы виртуальных сотрудников для внешних и внутренних коммуникаций.

Цель №2. Обеспечить оптимальную стоимость владения программно-аппаратным комплексом платформы RAG-агентов в защищённом контуре с учётом непрерывной синхронизации базы знаний.

Цель №3. Предоставить управленческий инструмент для отслеживания метрик AI-трансформации и влияния решения на бизнес компании.

2024

80% — сокращение времени до ответа клиентам. 

60% — экономия ресурсов контакт-центра по обслуживанию розничных клиентов в чат-канале.

 20% — экономия ресурсов службы технической поддержки. 

На 10% за 3 месяца выросло количество сотрудников, которые, попробовав ИИ, стали применять его регулярно в своей деятельности. 

Помимо этих ключевых показателей, достигнутых в первых этапах внедрения, важно отметить и более значимый результат — формирование новой культуры продуктивности внутри компании. Сотрудники начали активно использовать инструменты искусственного интеллекта для решения рутинных задач, что ускоряет работу и повышает их эффективность. Благодаря этому подходу ожидается, что в ближайшем будущем внедрение ИИ затронет и другие подразделения компании, обеспечивая более масштабные улучшения процессов и повышение продуктивности на всех уровнях.

Приватное защищённое GPU-облако для быстрого горизонтального и вертикального масштабирования. Большая лингвистическая модель GPT уровня ChatGPT 3.5 для генерации ответов, адаптированная под русский язык. Векторная база данных с моделью генерации эмбеддингов (матричных представлений), адаптированная под русский язык. Бот-серверы для взаимодействия с агентами.

В проекте не используются решения из каталога Global CIO

Представленное решение представляет собой комплекс аппаратной части, кодовой базы и моделей машинного обучения. Компоненты сконфигурированы таким образом, чтобы, дополняя друг друга, добиться максимального эффекта при минимальной стоимости владения. Одним из ноу-хау решения является процесс параллельного инференса на CPU и GPU, что позволяет начать обрабатывать запрос, не дожидаясь окончания ответа. Помимо обеспечения деятельности виртуальных сотрудников, комплекс используется для конвейерного извлечения знаний из данных компании. Большая лингвистическая модель обобщает большие объёмы знаний из таких источников данных, как 1С, сайт или файловые хранилища, затем другая модель векторизует данные для быстрого поиска по смыслу. Обновление баз знаний происходит в фоновом режиме, исходя из загрузки агентных систем.

Согласно совместному исследованию IBM и Oxford Economics, 70% компаний могут «оказаться на обочине», если не внедрят ИИ в ключевые аспекты деятельности к 2030 году. Новым словом в мире технологий, позволяющим быстро и эффективно встроиться в ИИ-гонку, по праву считается RAG (Retrieval-augmented generation — генерация, дополненная поисковой выдачей). Эта технология позволяет быстро создавать виртуальных агентов, глубоко погруженных в информационный контекст компании без ограничений объёма используемых знаний и затрат на длительное дообучение моделей. Анализ выявил, что первичными точками приложения усилий будет внедрение виртуальных сотрудников на следующие позиции:

●     Взаимодействие с розничными клиентами через JivoChat на сайте компании и Telegram. С одной стороны, это позволило значительно сократить ресурсы продавцов-консультантов на диалог — 90% времени которого составляют консультации по продукции, её монтажу и эксплуатации, а с другой стороны, 24/7 предоставить розничным клиентам доступ к обширному каталогу продукции со всеми характеристиками. Внедрение сэкономило 12% ресурсов продавцов-консультантов.

●     Внутренняя ИТ-поддержка. Большинство запросов в ИТ-поддержку представляют собой регулярно повторяющиеся задачи. Внедрение позволило обеспечить более 10% экономии ресурсов сотрудников ИТ-поддержки.

Список не окончательный: система может быть внедрена для оптовых продавцов-консультантов, франчайзи, обучения сотрудников, HR-процессов, включая онбординг и кадровое делопроизводство, поиска по внутренним документам и многого другого.

Платформа Panteo.ai поддерживает no-code интеграцию с популярными корпоративными системами через расширение 1С и API инкрементальной RESTful синхронизации. Это решение позволяет подразделениям самостоятельно настраивать синхронизации с базами данных, создавать агентов с различными ролями и правами доступа, а также запускать ботов для популярных чат-платформ, таких как Телеграм и JivoChat.

Дополнительно встроенная BI-система позволяет отслеживать показатели использования ИИ-инструментов и другие ключевые метрики. Все это помогает компаниям улучшить контроль над бизнес-процессами, упрощая управление знаниями, синхронизациями и ботами. Решение разворачивается в закрытом контуре, что предотвращает утечку данных и исключает перерасход вычислительных токенов, что критично для компаний, работающих с большими объёмами данных.

Решение внедрено в Центральном федеральном округе и поддерживает клиентов по всей территории России.