Единый реестр интернет рекламы (ЕРИР)

Заказчик
Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
Руководитель проекта со стороны заказчика
ИТ-поставщик
ООО «Эдвансед Трансформейшн Консалтинг» (ООО "ЭйТи Консалтинг")
Год завершения проекта
2023
Сроки выполнения проекта
Май, 2022 - Июнь, 2023
Масштаб проекта
160000 человеко-часов
Цели

- предоставить гражданам, обществу и государству достоверные сведения о распространении интернет-рекламы;

- обеспечить прозрачность, обоснованность и законность расходов, связанных с распространением интернет-рекламы;

- обеспечить выявление и фиксацию нарушений при распространении интернет-рекламы среди российских пользователей.


Результаты

Сформирован единый банк данных сведений о коммерческой интернет-рекламе . Информация о всех рекламных кампаниях, которые демонстрируются в сети интернет (изображения, текст, звуковые сообщения, видео) и метаданные о рекламе загружается в единую базу данных. Разработаны инструменты контроля качества данных.

В ЕРИР содержится информация по рекламораспространителям, источникам финансирования площадок, реклама государственных компаний и компаний с государственным участием, реклама органов власти, разработаны технические решения для выявления рекламы, нарушающей требования законодательства.

Разработаны личные кабинеты органов власти, в которых предусмотрены инструменты для проведения расследований и выполнения аналитики по данным об интернет-рекламе.

Реализована быстрая аналитика по рекламным данным.

СПО Робот позволяет выявлять незарегистрированную рекламу на различных интернет-ресурсах.


Уникальность проекта

С 1 сентября 2022 года действуют требования Закона о рекламе об учете рекламы, размещенной в сети Интернет. Теперь все участники цепочки распространения интернет-рекламы, от рекламодателей до агентств, передают сведения об этом в единый реестр интернет-рекламы (ЕРИР), заказчиком которого является Роскомнадзор.

В ЕРИР учитывается информация о рекламе, размещенной в сети Интернет — текстовом, звуковом или визуальном контенте в виде роликов, баннеров и сообщений других форматов. Здесь фиксируются договоры, акты и платежи участников рекламных кампаний, а также статистика их показов на различных площадках. На сегодняшний день в ЕРИР зарегистрировано более 28 млрд рекламных материалов (креативов).

Совместно с Заказчиком мы создали единый банк сведений об интернет-рекламе, информационные панели оценки объема рекламного рынка, механизм по поиску незарегистрированной в ЕРИР рекламы, инструменты для аналитики и проведения расследований нарушений органами власти.

Проект уникален в мировой практике и не имеет полных аналогов как с точки зрения решаемых задач, так и со стороны технологического стека.

В ЕРИР передана информация о 5 миллионах уникальных контрагентов, рекламных бюджетах рекламодателей в объеме более 540 млрд. рублей, зарегистрировано более 28 млрд. креативов. Передана информация о 9167980 договорах и 13891027 актах сдачи-приемки услуг по договорам на размещение рекламы.

Мы рады, что участвовали в реализации ЕРИР, и гордимся достигнутыми результатами.


Проект решает задачи импортозамещения
Да
Использованное ПО

ЕРИР реализован с использованием передовых подходов проектирования архитектуры и построения процессов DevSecOps. Более 70 компонентов системы работают в ПО Kubernetes, включая аналитическую СУБД Clickhouse c 65 ТБ данных и программный брокер сообщений Apache Kafka, принимающий по несколько десятков тысяч сообщений в секунду.

Реализованные механизмы базируются на программно-технических решениях отечественного производства или свободно распространяемом программном обеспечении.

В разработке мы использовали такие языки программирования, как Java, Kotlin, Python и JavaScript.

С помощью свободного программного обеспечения Swagger осуществляется управление методами API.

Хранилище данных реализовано на основе БД Clickhouse.

Для обеспечения поиска, получения, записи и обновления сведений в хранилище данных использовались микросервисы, которые функционируют с помощью сервиса Spring Boot программной платформы Spring Framework.

Автоматизацию ETL/ELT процессов выполняет Airflow.

Для обеспечения выгрузок из отчетов используется JasperReports.

Для идентификации пользователей в Системе используется платформа управления учетными данными пользователей Keyloack.


Сложность реализации

С технической точки зрения ЕРИР — сложный и интересный проект, в котором мы столкнулись с большим количеством нестандартных проблем, но нашли подходы к их решению.

Например, одной из серьезных проблем стало большое количество данных, которые непрерывно поступают или уже зарегистрированы в ЕРИР. На текущий момент объем хранилища данных составляет более 65 ТБ.

Другой проблемой стало большое количество пользователей Системы, так как любой гражданин РФ может зайти на портал, авторизоваться через Госуслуги и проверить наличие у себя рекламных материалов. На текущий момент в ЕРИР зарегистрировано более 1 млн контрагентов, которые участвуют в размещении рекламы в интернете.

При реализации робота мы столкнулись со сложной задачей определения рекламы на веб-сайтах. Но благодаря удачному архитектурному решению и гибкой настройке правил мы научились находить рекламный контент на любых URL-адресах и анализировать полученную информацию.

Правильно выбранная архитектура системы, а также высокая экспертиза команды позволили справиться с поставленными техническими задачами.


Описание проекта

Согласно закону о маркировке интернет-рекламы, вступившему в силу 1 сентября 2022 г., в ЕРИР должна передаваться полная информация о каждом рекламном материале.

До запуска рекламной кампании участники рынка предоставляют информацию о рекламном объявлении (креативе) - сведения о содержании рекламы, номера и дату контрактов в рамках размещения материала, а после окончания рекламной кампании – статистику о показах объявления и сведения о полученной оплате за услуги. В ЕРИР уже зарегистрировано более 28 млрд рекламных материалов и более 150 млрд статистической информации о размещении рекламы на различных интернет-площадках.

Системой ежедневно пользуются более тысячи граждан Российской Федерации.

С функциональной точки зрения система ЕРИР представлена несколькими модулями:

- Highload-сервис, который принимает данные в реестр;

- хранилище данных, реализованное на базе данных Clickhouse;

- модуль проверки качества данных;

- сервисы формирования отчетов, дашбордов;

- поисковый робот.

Сервис Highload позволяет непрерывно принимать данные в систему, выдерживая нагрузку до 50 rps. В случае успешного прохождения форматного контроля данные записываются в файлы, которые регулярно обрабатываются и загружаются в хранилище данных. Хранилище данных представлено несколькими слоями обработки данных и реализовано на базе данных Clickhouse. В процессе загрузки на разные слои данные проходят различные проверки логического контроля и процедуру очищения от дублирующихся записей. Последний, витринный слой данных, адаптирован для многопользовательской работы и быстрого получения результатов.

Пользовательские интерфейсы системы включают в себя различные таблицы, круговые диаграммы, гистограммы, графики и другие элементы визуализации данных. Также в них имплементирована работа с изображениями. В основе интерфейсов лежит библиотека компонентов, разработанная командой с использованием библиотеки React JS.

Специальное программное обеспечение «Робот» проверяет информацию в интернете для выявления рекламы, не зарегистрированной в реестре или нарушающей закон. Наш «Робот» - это, в первую очередь, инструмент контрольно-надзорной деятельности, который позволяет отслеживать исполнение закона о маркировке рекламы в сети интернет. В начале проекта мы столкнулись со сложной задачей определения рекламы на веб-сайтах. Но благодаря удачному архитектурному решению и гибкой настройке правил мы научились находить рекламный контент на любых URL-адресах и анализировать полученную информацию.

Этот проект - один из тех, что делает мир вокруг нас безопаснее и защищает пользователей от различных мошенников и негативной информации. Мы успешно взаимодействуем с Заказчиком благодаря экспертизе наших технических специалистов и усердной работе каждого.


География проекта

Проект охватывает всех участников рынка интернет-рекламы, размещаемой для привлечения внимания потребителей рекламы, находящихся на территории Российской Федерации, а также автоматизирует деятельность органов государственной власти, осуществляющих контроль в установленных сферах ведения(РКН, ФАС, ФНС).


Дополнительные презентации:
ЕРИР_презентация_кратко_финал.pdf
Коментарии: 23

Комментировать могут только авторизованные пользователи.
Предлагаем Вам в систему или зарегистрироваться.

  • Галина Геворгян
    ФГУП Грчц
    Начальник отдела
    15.11.2023 09:47

    Отличный проект!

    • Сергей Федечкин Галина
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      07.01.2024 18:12

      Да, Галина права и проект отличный!
      В описании вашего проекта указано, что в случае успешного прохождения форматного контроля данные записываются в файлы, которые регулярно обрабатываются и загружаются в хранилище данных и при этом хранилище данных представлено несколькими слоями обработки данных. Подскажите, пожалуйста, какие основные слои, отвечающие за обработку данных Вы реализовали?

      • Александр Заверячев Сергей
        Рейтинг: 245
        Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
        Начальник Управления организационного развития и информационных технологий
        08.01.2024 22:53

        Сергей, здравствуйте

        в системе реализовано 3 основных слоя данных: (1) слой хранения операционных данных, (2) слой дедублицированных данных и (3) слой витрин данных

  • Варвара Михайлова
    Рейтинг: 6
    ФГУП ГРЧЦ
    Руководитель направления документационного обеспечения
    28.11.2023 10:02

    Проект изменил систему учета интернет-рекламы в общероссийском масштабе. Создана база данных рынка интернет-рекламы, не имеющая аналогов. ЕРИР хранит информацию, передаваемую сотнями тысяч участников рынка. Попадая в ЕРИР, информация проходит проверку качества данных. Собранный массив данных позволяет формировать достоверную и актуальную аналитику, которую ранее можно было получить только по результатам сложных комбинированных исследований.
    Данные ЕРИР используются органами государственной власти для обеспечения исполнения требований законодательства и защиты прав и интересов граждан.

    • Сергей Федечкин Варвара
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      07.01.2024 18:09

      Согласен с Варварой, что проект делает мир вокруг нас безопаснее и защищает пользователей от различных мошенников и негативной информации!
      Возможно, вопрос провокационный, но тем не менее задам: отслеживает ли система назойливую/навязчивую рекламу, которая с формальной точки зрения легальна, но слишком уж часто появляется?

      • Александр Заверячев Сергей
        Рейтинг: 245
        Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
        Начальник Управления организационного развития и информационных технологий
        08.01.2024 22:46

        Сергей, добрый вечер

        В систему передается информация о рекламе, включая количество показов и площадки показов

  • Алексей Юшков
    Рейтинг: 5
    Роскомнадзор
    Руководитель
    30.11.2023 16:48

    Уникальный проект, который поедставляет собой не просто техническое решение в сфере госуправления. Это ещё и смелый и уверенный шаг к учёту и унификации любого контента в сети "Интернет". Подобные системы могут стать достаточно точным инструментом социометрии и оценки экономического эффекта.

    • Сергей Федечкин Алексей
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      07.01.2024 18:09

      Поддержку Алексея и даже слегка в шоке, в хорошем смысле, что такое смогли обосновать, организовать и реализовать! Респект и уважуха!
      Правильно понимаю, что могу прямо сегодня/сейчас зайти на портал, авторизоваться через Госуслуги и проверить наличие по себе рекламных материалов?

      • Александр Заверячев Сергей
        Рейтинг: 245
        Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
        Начальник Управления организационного развития и информационных технологий
        08.01.2024 22:42

        Сергей, добрый вечер

        Вы верно поняли: прямо сейчас вы можете увидеть информацию о вашей рекламе в системе после авторизации через Госуслуги

  • Олег Горбунов
    Рейтинг: 16
    ГУП Управление Роскомнадзора по Камчатскому краю
    Заместитель руководителя Управления
    01.12.2023 00:31

    Отличный проект. Прорывное решение для реализации поставленных Правительством России задач по контролю за рекламой в Интернете.

    • Сергей Федечкин Олег
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      07.01.2024 18:10

      Подскажите, пожалуйста, пользовательский интерфейс системы, который включает в себя различные таблицы, круговые диаграммы, гистограммы, графики и другие элементы визуализации данных, а также с имплементированными изображениями доступен только для пользователей системы или также доступен простым гражданам через портал после авторизации на Госуслугах?

      • Александр Заверячев Сергей
        Рейтинг: 245
        Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
        Начальник Управления организационного развития и информационных технологий
        08.01.2024 22:40

        Сергей, добрый вечер

        Всё верно, пользовательский интерфейс доступен пользователям после авторизации через ЕСИА (Госуслуги)

  • Анатолий Пальников
    Управление Роскомнадзора
    Руководитель
    11.12.2023 15:58

    Хороший проект.

  • Сергей Федечкин
    Рейтинг: 458
    ВТБ, ПАО
    Директор по управлению проектами
    07.01.2024 18:10

    Александр, добрый день. Поздравляю с успешным и очень интересным проектом!
    Подскажите, пожалуйста, на сколько мощная инфраструктура развернута для специального программного обеспечения «Робот», который проверяет информацию в интернете для выявления рекламы, не зарегистрированной в реестре или нарушающей закон?

  • Александр Заверячев
    Рейтинг: 245
    Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
    Начальник Управления организационного развития и информационных технологий
    08.01.2024 15:31

    Сергей, добрый день. Спасибо за добрые слова о проекте и хороший вопрос.

    Теперь по сути вопроса. Специальное программное обеспечение «Робот» развернуто на современной ИТ- инфраструктуре на базе ПО Kubernetes, которое позволяет оперативно масштабировать вычислительные ресурсы в зависимости от ресурсоемкости поставленной задачи. На базе этой инфраструктуры развернуты несколько других больших информационных систем, включая те, которые используют нейросетевые технологии.

    • Сергей Федечкин Александр
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      08.01.2024 21:22

      Александр, спасибо за ответ.
      Круто когда в государственных структурах использую передовые технологии, включая нейросети и при этом очень даже к месту! Подскажите, пожалуйста, сколько времени ушло для того, чтобы нейросеть обучить для программного обеспечения «Робот» или там используются другие технологии?

  • Александр Данилов
    Рейтинг: 20
    ООО Философия.ИТ
    Партнер
    08.01.2024 20:45

    Отличный проект! Первое ХД выполненное без традиционных СУБД с обеспечением высокой надежности!

    • Сергей Федечкин Александр
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      08.01.2024 21:24

      Добрый день, поддержу Александра и это отличный проект.
      И вопрос: Подскажите, пожалуйста, каким образом реализована архитектура высокой надежности и каким образом архитектура высокой надежности была спроектирована: самостоятельно или это плод совместной работы вместе с интегратором?

      • Александр Заверячев Сергей
        Рейтинг: 245
        Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
        Начальник Управления организационного развития и информационных технологий
        08.01.2024 23:09

        Сергей, здравствуйте

        Проект в целом, включая его архитектуру - это совместный управленческий и интеллектуальный труд всех его участников: представителей органов власти - пользователей системы, рынка интернет-рекламы, профильных ассоциаций и подрядчика

        • Сергей Федечкин Александр
          Рейтинг: 458
          ВТБ, ПАО
          Директор по управлению проектами
          08.01.2024 23:15

          Александр, спасибо за ответ!
          Подскажите, пожалуйста, на сколько в полном объеме удалось достичь изначальных целей по архитектуре или по ходу реализации при возникновении трудностей и срабатывании рисков приходись пересматривать и корректировать архитектуру? В случае изменения архитектуры как проходило согласование.

  • Сергей Федечкин
    Рейтинг: 458
    ВТБ, ПАО
    Директор по управлению проектами
    08.01.2024 21:28

    Подскажите, пожалуйста, каким образом было организовано взаимодействие команды разработки с бизнес-заказчиком? Принимал ли бизнес-заказчик или его представитель участие в приемо-сдаточный испытаниях и на чьей стороны была подготовка пользовательских сценариев?

  • Александр Заверячев
    Рейтинг: 245
    Роскомнадзор, Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций
    Начальник Управления организационного развития и информационных технологий
    08.01.2024 23:03

    Сергей, добрый вечер

    Бизнес-заказчик непрерывно участвовал в работе над проектом: на уровне исполнителей, экспертов и руководства. Одновременно с этим к участию в проекте привлечены представители органов власти - пользователи системы и представители рынка интернет-рекламы

    • Сергей Федечкин Александр
      Рейтинг: 458
      ВТБ, ПАО
      Директор по управлению проектами
      08.01.2024 23:14

      Александр, спасибо за ответ!
      Подскажите, подскажите, планируется ли дальнейшая «разработки проекта и на чем будут основываться требования - обратная связь пользователей или еще не реализованные потребности заказчика? На чьей стороне сейчас лежит поддержка внедренного решения?

Год
Предметная область
Отрасль
Управление
Мы используем файлы cookie в аналитических целях и для того, чтобы обеспечить вам наилучшие впечатления от работы с нашим сайтом. Заходя на сайт, вы соглашаетесь с Политикой использования файлов cookie.