Data Engineer

Объединённая компания Wildberries и Russ — это международная технологическая компания, образованная в результате слияния двух лидеров рынка — IT-компании Wildberries и оператора наружной рекламы Russ. Портал продавцов — это юнит со всеми продуктами WB для продавцов. Здесь личный кабинет, загрузка и хранение контента, поиск и каталог, биллинг, оформление товара и доставка, аналитика и многое другое. Это 1/4 всего бизнеса WB. В сервисе более 1 млн. поставщиков, ежедневный оборот - 5 млрд. рублей. В направлении DE мы занимаемся построением озера данных, необходимого для принятия верных бизнес-решений. И в связи с активным ростом и расширением функционала, находимся в поиске Data Engineer.

Что нужно делать

• Заниматься разработкой, сопровождением, оптимизацией ETL-пайплайнов на Apache Spark;
• Разрабатывать интеграции со стриминговыми источниками данных (Kafka);
• Реагировать на инциденты, осуществлять поддержку существующих пайплайнов;
• Проводить сбор, анализ и выявление требований, взаимодействовать с заказчиками;
• Проектировать и разрабатывать витрины данных для аналитики;
• Принимать участие в разработке и развитии внутреннего фреймворка;
• Принимать участие в code review.

Какой опыт и знания нужны

• Уверенный опыт программирования на Python (не менее 2-х лет);
• Опыт работы с hadoop (spark/yarn/hdfs/hive), с apache Airflow / Dagster и со Spark (Pyspark);
• Опыт в оптимизации SQL запросов (индексы, партицирование, шардирование и тд);
• Опыт работы с MPP СУБД (ClickHouse/GreenPlum/Vertica);
• Опыт работы со стриминговыми данными (Kafka).
• Будет плюсом:
• Опыт работы в DBT;
• Понимание концепций моделирования хранилищ данных;
• Ведение процесса покрытия данных контролем качества (DQ).

Условия

• Обучение и развитие: языковые клубы, собственный корпоративный университет, программы развития управленческих навыков и многое другое;
• Благополучие сотрудников: корпоративный пакет ДМС со стоматологией, корпоративный спорт, консультации психолога и дополнительные возможности аккредитованной IT-компании;
• Множество сообществ: клуб спикеров, футбола, йоги, шахмат и т.д.;
• Забота о семьях: создаем условия, в которых легко сочетать карьеру и заботу о близких – от гибкого подхода до масштабных проектов для детей сотрудников;
• Скидки и партнерские программы: на обучение, страхование, покупки и многое другое;
• Комфортная рабочая среда: бесплатное питание в офисе, современные офисы рядом с метро, корпоративная техника и портал для сотрудников.