Наша команда создает ключевой продукт для аналитики Сбера — Прикладную аналитическую платформу B2C. Мы помогаем сотням команд внутри экосистемы быстро создавать надежные аналитические витрины на Облаке Данных, чтобы глубже понимать клиентские пути и формировать персонализированные предложения.
Мы ищем сильного Data Engineer, который будет напрямую влиять на архитектуру и развитие этого стратегического инструмента. Вы будете создавать решения, которыми ежедневно пользуются десятки аналитиков и дата-инженеров.
Обязанности
- участвовать в проектировании и развитии архитектуры фреймворка для построения batch- и streaming-витрин
- разрабатывать ядро платформы и ее компоненты (оркестрация, метаданные, Data Quality-фреймворк) на Scala/Java
- создавать и оптимизировать абстракции и API (включая RESTful), которые упростят работу с данными для других команд
- проводить производительность и масштабируемость платформы на больших объемах данных (петабайты)
- тесно взаимодействовать с пользователями платформы (аналитиками, дата-инженерами из бизнес-команд) для сбора требований и обратной связи
- менторить младших разработчиков
Требования
- глубокое знание Scala или Java, SQL, Bash
- опыт с Apache Spark (обязательно). Опыт с Flink, Kafka, Iceberg или аналогичными
- понимание DWH/Data Lake, ETL/ELT-процессов, SCD, Data Quality
- опыт проектирования отказоустойчивых и масштабируемых систем, понимание SOLID, опыт написания тестов (unit, integration)
- опыт кросс-функционального взаимодействия, принятия архитектурных решений, наставничества
будет преимуществом (желательные навыки)
- опыт с Hadoop-экосистемой (HDFS, YARN, Hive)
- знание Trino/Velox
- опыт работы с микросервисной архитектурой и REST API
- опыт с ClickHouse, Kubernetes, S3
- знание Python
Условия
- работа в офисе по адресу г. Москва, ул. Поклонная, 3
- годовой бонус и ежегодный пересмотр
- расширенный ДМС с первого дня + стоматология и льготное страхование для семьи
- корпоративный университет Сбера, внутренняя образовательная платформа, участие в IT-конференциях
- льготная ипотека в Сбере, корпоративная пенсионная программа, подписка СберПрайм+, скидки от партнеров и сервисов группы компаний.
