Наша команда инфраструктуры аналитики помогает аналитикам делать свою работу. Мы обеспечиваем доставку данных в единое хранилище для аналитики и поддерживаем инструменты для их обработки и презентации.
В компании много самодостаточных команд. В каждой команде свои сервисы, свои разработчики и аналитики. Так что у нас достаточно потоков данных самого разнообразного формата и объема. Это данные о букингах, на которые смотрит вся компания, и каждая запись проверяется чуть ли не руками, а еще — данные о билетах объемом более терабайта в сутки. Это требует разных подходов с нашей стороны.
- Наша платформа основана по принципам LakeHouse архитектуры. Наш стек: Spark, Trino, AWS S3, DeltaLake format, DBT, Kafka, Airbyte, Apache Airflow, DataHub.
- Тестирование и сборка производятся на CI сервере (Jenkins). Также присутствует Terraform. Деплой в Kubernetes(EKS в AWS). Настройкой серверов и разворачиванием баз мы не занимаемся. Это делает отдельная команда инфраструктуры.
Что нужно делать
- активно участвовать в командном чате: отслеживать запросы, оперативно реагировать на вопросы и задачи в рабочее время;
- мониторить системы и решать возникающие инциденты вместе с дежурными дата инженерами;
- оптимизировать текущие процессы обработки данных;
- модернизировать текущую дата платформу вместе с Core командой дата инженеров.
Чего ждём от тебя
- опыт работы инженером данных от 1 года;
- знание языков программирования: Python/SQL (обязательно), опыт работы с другими языками будет плюсом.
- понимание принципов ETL/ELT процессов и опыт работы с инструментами;
- понимание как работают распределенные вычисления;
- опыт работы в нашем стеке Apache Spark, Apache Airflow, DBT, Trino будет плюсом;
- самостоятельность и ответственность, умение коммуницировать с разными командами и людьми;
- желание развиваться и выстраивать процессы вокруг себя.
Как мы работаем
- в любой точке мира: не привязываемся к локации, платим в долларах, любим путешествовать;
- без бюрократии: удобные процессы здорового человека, горизонтальные и открытые коммуникации, быстрое обсуждение идей и принятие решений;
- компенсируем: ДМС, психотерапию или иностранные языки, занятия спортом и больничный;
- на райском острове: можно работать на Пхукете с видом на океан.
