КИОН — это часть цифровой экосистемы МТС. Мы создаем оригинальный развлекательный контент развиваем сервисы для просмотра фильмов и сериалов на любом устройстве. В пуле originals онлайн-кинотеатра KION такие известные кино-сериальные проекты как «Хрустальный», «Почка», «Пингвины моей мамы», «Секреты семейной жизни», «Дуров», «Клиника счастья» и многие другие.
Описание проекта и команды:
Отдел платформеных данных занимается внедрение lakehouse нового поколения,в котором мы разделяем compute от storage. Есть текущий проект с DWH в виде Greenplum и Hadoop который планируется перевести в поддержку.
Чем предстоит заниматься:
Разработка и рефакторинг ETL/ELT пайплайнов на pyspark;
Разработка и поддержка OLAP движков Starrocks/Clickhouse;
Поддержка текущих пайплайнов на Greenplum и Hadoop;
Миграция с HDFS на S3;
Оптимизация Spark-приложений;
Опыт работы с Python от 3 лет;
Глубокое знание SQL и опыт работы с большими данными;
Опыт работы с Apache Airflow
Опыт проектирования и разработки ETL/ELT процессов;
Опыт работы с колоночными БД (ClickHouse);
Знание принципов построения Data Warehouse и Data Lake;
Понимание разницы между OLTP/OLAP системами;
Уверенная работа c linux и git;
Понимание процессов ci/cd;
