MLOps (банк)

Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей. Наши ИИ-агенты автоматизируют ключевые операционные процессы, напрямую влияя на эффективность и конкурентное преимущество бизнеса наших заказчиков.

✅чем предстоит заниматься:

Ты станешь ключевым инженером, который превращает исследовательские прототипы в отказоустойчивую GenOps-фабрику цифровых агентов.

__Твои задачи: DevOps для AI: __
Проектирование и развитие самообслуживания CI/CD пайплайнов для внутреннего деплоя AI-агентов и мультиагентных систем.

__Инференс под управление: __Развертывание и оптимизация LLM/VLM в процессе разработки (оптимизация памяти, формирование скорости) с использованием vLLM, Triton Inference Server, SGLang.

__Надёжность: __Обеспечение высокой доступности сервисов, работа с масштабированием горизонтальных подов и управление состоянием агентов.

__Мониторинг 360°: __Внедрение комплексного наблюдения: от стандартных метрик (CPU/GPU, задержка) до конкретных ML-метрик (качество генерации, дрейф данных, оценка тональности ответов).

✅Обязательные требования

• Опыт вывода LLM-решений в прод.
• Уверенное владение Python и асинхронным программированием (asyncio).
• Уверенное владение Kubernetes (Helm, управление кластерами).
• Знание Gitlab CI, Jenkins и пр
• Понимание архитектуры RAG-систем, работы embedding-моделей и ранжирования.
• Умение оптимизировать инференс: квантизация, continuous batching, PagedAttention.
• Будет плюсом: опыт с графовыми БД и построением мультиагентных систем

⚙️ Технологический стек:
Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgres
Опыт работы с векторными и графическими БД.

🔥Условия

• Оформление по ТК РФ в IT-аккредитованную компанию
• ДМС (включая стоматологию)
• Компенсация фитнеса
• Скидки на обучение английскому (Skyeng)
• Индексация заработной платы
• Современная техника
• IT-аккредитация компании