Ищем сильного инженера-разработчика для сопровождения и развития высоконагруженной LLM-платформы обработки больших объёмов данных (текст, документы, изображения, аудио).

Под капотом:

Микросервисы: движок на .NET, оркестрация на Python, веб-панель на React
Хранилище: PostgreSQL (десятки миллионов записей)
Кеш: Redis
Self-hosted LLM: vLLM на GPU за nginx-балансировщиком
Инфраструктура: Docker, мониторинг Prometheus / Grafana

Планы развития: RAG-контур на векторном поиске и доменная адаптация моделей.

Важно: уметь видеть систему целиком — от SQL-плана запроса до раскладки моделей по видеокартам.

Обязанности:

Поддержка продакшена: деплой, обновления, разбор инцидентов, откаты
Доработка логики обработки: классификация, нормализация, извлечение сущностей, контроль качества вывода LLM
Оптимизация латентности и пропускной способности: тюнинг батчей, параллелизма и конкурентности LLM, оптимизация SQL и кеша
Эксплуатация LLM-стека: раскладка и обновление моделей на GPU, мониторинг видеокарт, диагностика
Развитие RAG-контура: векторный поиск, индексация, релевантность; доменная адаптация моделей через LoRA
Работа с данными: дампы и восстановление PostgreSQL, прогрев кеша, миграции между серверами
Наблюдаемость: дашборды, метрики, разбор «хвостов» p95/p99

Требования:

Уверенный бэкенд на C# / .NET И на Python (допустимо: сильный в одном + рабочий во втором с быстрым доростом)
PostgreSQL на хорошем уровне: сложные запросы, индексы, EXPLAIN, партиционирование, дампы/restore
Docker / docker-compose и уверенный Linux (ssh, systemd, диагностика по логам)
Практический опыт с LLM: промптинг, параметры генерации, self-hosted инференс, понимание токенизации и ограничений контекста
Инженерная самостоятельность: умение читать код и метрики распределённой системы
Понимание работы с тестовой средой и продакшеном

Будет большим плюсом

RAG и векторные БД (Qdrant): эмбеддинги, индексация, гибридный поиск, оценка релевантности
LoRA / PEFT — лёгкая доменная адаптация моделей
Эксплуатация vLLM / TGI / llama.cpp, понимание GPU (nvidia-smi, VRAM, tensor-parallel, квантизация), Hugging Face
React / Vite для правок админ-панели
Базовый NLP: токенизация, детекция языка, нормализация, извлечение сущностей
Диагностика железа (в т.ч. виртуализация / KVM)

Условия:

Гибкое начало и окончание дня
Оформление: ТК / ИП
Аккредитованная IT-компания
Реальное владение сложной системой и свобода в инженерных решениях
Отсутствие бюрократии

Вакансии в Квазар

Вакансии

Backend / ML-Platform разработчик

Вакансии в Квазар

Вакансии

Backend / ML-Platform разработчик