Как «Комусу» удалось в 2,5 раза повысить скорость обработки запросов с помощью облачной Arenadata DB
- Заказчик:
- КОМУС
- Руководитель проекта со стороны заказчика
- Поставщик
- VK Tech
- Год завершения проекта
- 2023
- Сроки выполнения проекта
- Сентябрь, 2022 - Ноябрь, 2023
- Масштаб проекта
- 4500 человеко-часов
- Цели
-
- Перейти на новую систему аналитики. Ее предстояло создать при дефиците ресурсов и недостатке экспертизы. Производительность нового хранилища данных должна была стать выше, чем у предыдущего.
- Построить систему Self-Service аналитики, которая повысила бы доступность данных для бизнес-пользователей. Создать условия, при которых аналитики смогут работать с данными без постоянной поддержки со стороны ИТ-специалистов.
- Результаты
- Быстро развернули систему Self-Service-аналитики с хранилищем данных на 5 ТБ.
- Нагрузка на штатных ИТ-специалистов не увеличилась.
- В 2,5 раза повысилась скорость обработки запросов за счет перехода с Oracle на Arenadata DB as a Service.
Уникальность проекта
Реализация с развертыванием на собственных серверах не подходила: не хватало вычислительных мощностей и требовалась экспертиза. Хранилище данных уже было, но локальное — база данных Oracle на физических серверах. С учетом перспектив масштабирования параметры Oracle ограничивали, и не устраивала скорость обработки данных. Решили развернуть новое хранилище на базе СУБД Arenadata DB.
На этапе реализации столкнулись с трудностями:
- Не было компетенций по администрированию СУБД Arenadata DB.
- Ресурсов текущей инфраструктуры было недостаточно, а докупить оборудование оперативно не было возможности.
Благодаря тому, что использовали инструменты, предоставляемые по модели as-a-service, то администрирование инфраструктуры и PaaS-сервисов (доступность сервисов, отказоустойчивость) были на стороне VK Cloud. Специалисты «Комуса» отвечали за хранение данных и их низкоуровневую безопасность. Это позволило быстро развернуть проект и запустить его в прод.
- Проект решает задачи импортозамещения
- Да
- Использованное ПО
-
Хранилище данных
Arenadata DB (PaaS сервис в VK Cloud)Системы визуализации
Apache Superset, в перспективе – FineBI
QlikView, Tableau, SAP Business ObjectsОркестраторы
Legacy: Pentaho, Luigi
Основной: Apache Airflow
Перспективные: Prefect, Dagster, Flyte - Сложность реализации
Сложность реализации проекта – высокая. Требовалось создать систему аналитики при дефиците ресурсов и недостатке экспертизы. При этом проект было важно запустить оперативно и получить возможность гибкого масштабирования — как по производительности, так и по функциональности. Для реализации проекта привлекали внешнюю экспертизу, а в процессе внедрения проекта внутри компании создали центр компетенций для сопровождения и развития системы.
- Описание проекта
- В связи с этим основных требований к провайдеру было несколько:
- Ресурсы — нужен был поставщик, который предоставит достаточный объем вычислительных мощностей и возможность быстро масштабировать инфраструктуру при росте нагрузки;
- Компетенции — искали поставщика, который предлагает Arenadata DB как PaaS (Platform-as-a-Service) — преднастроенный и управляемый облачный сервис, может проконсультировать по развертыванию дата-решений в облаке.
На платформе VK Cloud были все необходимые инструменты для построения и развития решения по модели PaaS (Platform-as-a-Service). Выбрали облако, чтобы переход к требованиям был плавным.
- География проекта
- Россия
Охватывает все подразделения компании