Мы в поисках MLOps-иженера в команду по обеспечению надежности генеративного ИИ. Ты будешь участвовать в проектировании и развитии платформы для безопасной, наблюдаемой и экономически контролируемой поставки LLM/RAG/агентных решений в production. Мы ищем специалиста с опытом и отраслевой экспертизой, готового принимать архитектурные и инженерные решения, автоматизировать процессы, развивать платформенные сервисы для генеративного ИИ и повышать надежность GenAI-продуктов.
Чем предстоит заниматься:
- Проектировать и развивать AI Gateway: единый доступ к внешним и внутренним LLM, маршрутизация запросов, лимиты, фоллбэки, контроль стоимости, аутентификация и ролевая модель доступа;
- Развивать платформу LLM-инференса: развертывание и эксплуатация open-source LLM, OpenAI-совместимые API, потоковая генерация, управление версиями моделей, производительность, отказоустойчивость и мониторинг;
- Развивать RAG/Retrieval -платформу: векторные и лексические индексы, гибридный поиск, версионирование индексов, сервис эмбеддингов, кэширование, фильтрация, партицирование данных и интеграции с источниками знаний;
- Развивать Agent Runtime: запуск и сопровождение агентных графов, управление состоянием, очереди асинхронных шагов, отказоустойчивость, ограничения на выполнение и контроль зацикливаний;
- Развивать MCP Gateway/Registry: подключение инструментов и контекстов, управление доступом, мониторинг вызовов инструментов, аудит действий и стандартизация интеграций;
- Автоматизировать жизненный цикл GenAI-артефактов: сборка образов агентов, CI/CD-пайплайны, интеграционные тесты с эмуляторами LLM, прогон evaluation-наборов, канареечные релизы и откаты;
- Развивать платформу оценивания качества GenAI-решений: автоматические проверки, LLM-as-judge, тестовые наборы, метрики качества генерации, качества поиска, безопасности и стабильности поведения;
- Развивать наблюдаемость GenAI-систем: трассировка запросов, вызовы LLM, вызовы инструментов, шаги агентов, метрики задержек, ошибок, качества, стоимости и потребления токенов;
- Внедрять защитные механизмы для GenAI-сервисов: проверка входов и выходов, защита от prompt injection, контроль чувствительных данных, ограничения инструментов и политики безопасного использования;
- Оптимизировать использование вычислительных ресурсов для LLM/RAG/агентных сценариев с учетом надежности, производительности, задержек и стоимости;
- Исследовать новые инструменты и подходы в GenAIOps, оценивать их применимость и внедрять там, где это повышает надежность, скорость разработки или эффективность платформы.
Мы ожидаем:
- Опыт промышленной разработки, внедрения или эксплуатации GenAI-, ML- или Data-платформ;
- Практический опыт работы с LLM-инференсом: vLLM, Text Generation Inference, Triton Inference Server, llama.cpp или аналогичные решения;
- Понимание особенностей эксплуатации LLM: задержки, throughput, batch-запросы, потоковая генерация, контекстное окно, потребление памяти, GPU-ресурсы и стоимость инференса;
- Опыт проектирования или эксплуатации API для доступа к моделям, включая OpenAI-совместимые интерфейсы, авторизацию, лимиты, маршрутизацию и отказоустойчивость;
- Понимание принципов RAG: разбиение документов на фрагменты, эмбеддинги, векторный и гибридный поиск, reranking, фильтрация, версионирование индексов и оценка качества retrieval;
- Практический опыт работы с векторными хранилищами, поисковыми движками или библиотеками поиска: FAISS, Qdrant, Milvus, OpenSearch, Elasticsearch или аналогами;
- Понимание архитектуры AI-агентов: инструменты, состояние, память, графы выполнения, асинхронная обработка, ограничения автономности и эскалация к человеку;
- Опыт запуска и сопровождения сервисов в Kubernetes: workloads, Helm, ingress, autoscaling, observability, диагностика и устранение проблем;
- Опыт настройки CI/CD для сервисов, ML- или GenAI-артефактов, желательно на базе GitLab;
- Уверенное владение Python для разработки платформенных сервисов, автоматизации, интеграций и внутренних инструментов;
- Опыт работы с Docker и OCI-образами: сборка, оптимизация, публикация и эксплуатация;
- Понимание принципов мониторинга и алертинга для GenAI-систем: трассировка, логи, метрики, качество генерации, ошибки инструментов, токены, задержки и стоимость;
- Понимание подходов к оцениванию GenAI-решений: golden datasets, regression tests, LLM-as-judge, human evaluation, метрики качества ответов и качества поиска;
- Опыт безопасной работы с секретами, токенами, сертификатами, чувствительными данными и сервисными учетными записями;
- Понимание основных рисков генеративного ИИ: галлюцинации, prompt injection, утечки данных, небезопасные инструменты, избыточная автономность агентов и неконтролируемая стоимость;
- Уверенное владение Linux: настройка, мониторинг, диагностика сетевых, ресурсных и производительных проблем.
Будет плюсом:
- Опыт эксплуатации GPU-инфраструктуры для LLM-инференса: CUDA, MIG, nvidia-container-toolkit, GPU operator, quantization, tensor parallelism, prefix caching или аналогичные подходы;
- Опыт работы с Kubernetes в Yandex Cloud, bare metal-инфраструктуре или гибридных окружениях;
- Опыт работы с LangChain, LlamaIndex, Haystack, Semantic Kernel, Google ADK или аналогичными фреймворками для RAG и агентов;
- Опыт работы с MCP или другими подходами к стандартизации подключения инструментов и контекстов;
- Опыт построения AI Gateway, model gateway или внутреннего шлюза доступа к LLM-провайдерам;
- Опыт построения Agent Runtime или платформы запуска агентных сценариев;
- Опыт оптимизации стоимости LLM/RAG/агентных сценариев.
