О команде
Мы развиваем внутреннюю on-prem AI-платформу, которой пользуется вся компания: собственный inference на GPU, LLM-шлюз, RAG и AI-агенты в защищённом контуре. Приоритет — собственная инфраструктура там, где это критично. Помимо собственных моделей, платформа обеспечивает безопасное использование внешних моделей; при этом работа с моделями и AI-агентами выполняется в изолированной песочнице (sandbox), ограничивающей доступ к файлам, сети и данным.
Эта роль — про развитие AI-платформы изнутри: установку и конфигурирование AI-сервисов, их развёртывание в Docker и Kubernetes, запуск новых моделей на нашем GPU-оборудовании и обеспечение их безопасности и производительности. Мы ищем инженера с сильным техническим бэкграундом в администрировании Linux, контейнеризации, автоматизации и информационной безопасности.
Чем предстоит заниматься
- Установка, конфигурирование и развитие AI-платформ: веб-интерфейсы для моделей, LLM-шлюзы, оркестрация AI-workflow и агентов, облачные среды разработки (CDE), RAG-платформы
- Развёртывание и сопровождение сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
- Развёртывание и запуск новых моделей на сервисах инференса (vLLM и аналогичные) с учётом возможностей GPU, включая оптимизацию и quantization
- Безопасные конфигурации (hardening, secure by design) и безопасность платформы: RBAC, secrets management, network policies, изоляция моделей, защита от prompt injection
- Обеспечение изолированного и безопасного выполнения моделей и AI-агентов (sandbox)
- Автоматизация развёртывания и обновления, управление конфигурациями (IaC, CI/CD, GitOps)
- Мониторинг, диагностика и оптимизация производительности; контроль latency, throughput и стоимости инференса
- Оценка качества моделей (evals) и наблюдаемость (observability)
- Развитие и продвижение использования AI-технологий в компании
- Контроль лицензий open-weight моделей и требований compliance
- Взаимодействие с командами разработки и инфраструктуры, подготовка документации
- Обучение и консультирование сотрудников по работе с AI-инструментами
Что для нас важно
- Высшее образование (техническое)
- Опыт работы в роли AI/ML Platform, MLOps или DevOps инженера от 3 лет
- Уверенное понимание принципов работы LLM, RAG и векторных баз данных
- Опыт развёртывания и эксплуатации сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
- Опыт развёртывания и эксплуатации моделей машинного обучения/LLM на серверных сервисах инференса (vLLM, SGLang, TGI)
- Опыт администрирования Linux
- Навыки работы с GPU (NVIDIA CUDA, VRAM, оптимизация инференса)
- Уверенное владение Python и скриптовыми языками для автоматизации
- Опыт построения CI/CD и управления конфигурациями (Ansible, Terraform, Helm)
- Понимание принципов информационной безопасности и разграничения доступа (RBAC, secrets management)
- Опыт production-эксплуатации: мониторинг, evals, контроль latency, throughput и стоимости
- Аналитические навыки и навыки поиска и устранения неисправностей
- Английский язык на уровне Intermediate и выше
Будет плюсом
- Опыт работы с Open WebUI, LiteLLM, Langflow, RAGFlow, OpenHands и аналогичными
- Опыт администрирования Windows Server
- Опыт с локальными рантаймами инференса (Ollama, llama.cpp);
- Понимание MCP и agentic AI
- Опыт мониторинга (Prometheus, Grafana) и логирования
- Знание принципов fine-tuning и оценки качества моделей
- Хорошие коммуникативные и презентационные навыки
Что мы предлагаем
- Прозрачный карьерный рост: индивидуальный карьерный трек, программы коучинга и менторинга
- Возможность внести свой вклад в изменения бизнеса и расширить профессиональную экспертизу
- Команда профессионалов, которые поддерживают друг друга и работают на результат
- Гибкие начало и конец рабочего дня, возможность работать из офиса или из дома
- Корпоративное обучение: более 50 тренингов, доступ к изучению иностранных языков и электронной библиотеке
- Забота о сотрудниках: ДМС со стоматологией с первого месяца работы и скидка на ДМС для родственников, 5 оплачиваемых дней в году по болезни без оформления больничного, корпоративный спорт и мероприятия, скидки партнеров, программа психологического здоровья, комфортный и стильный офис
- Конкурентная заработная плата, бонусы по итогам финансового года и годовой оценки сотрудника, премии за интенсивную работу и выдающиеся результаты
- Официальное трудоустройство
