Мы — отдел платформенных сервисов. Внутри отдела развёрнут собственный AI-стек: шлюз маршрутизации к LLM (LiteLLM), локальные модели, RAG-система по внутренней базе знаний, агенты и боты, автоматизирующие рутину.
Ищем инженера, который будет находить процессы отдела, пригодные для автоматизации, и превращать их в работающие агентные пайплайны — от идеи до продакшена.
Чем предстоит заниматься:
- Проектировать и строить агентные автоматизации под задачи отдела: от разовых сценариев до постоянных пайплайнов, встроенных в рабочие процессы команды.
- Писать и оптимизировать промпты и запросы к агентам, добиваться стабильного и воспроизводимого поведения, снижать стоимость и латентность вызовов.
- Интегрировать агентов с внутренними системами и источниками данных (API, RAG-база, тикеты, документация, чат-боты).
- Выявлять узкие места и ручную рутину в процессах отдела, оценивать применимость ИИ и предлагать решения.
- Сопровождать локальные AI-инструменты: маршрутизация к моделям, RAG-индекс, боты, следить за их работоспособностью и качеством ответов.
- Настраивать наблюдаемость и оценку качества автоматизаций (трейсинг вызовов, метрики, аудит), выстраивать регрессионные проверки промптов и агентов.
- Вести документацию по построенным автоматизациям и передавать их в эксплуатацию.
Требования:
- Уверенный Python: интеграции по API, работа с асинхронщиной, аккуратный прод-код, а не только скрипты.
- Практический опыт построения LLM-агентов и агентных воркфлоу (function/tool calling, оркестрация, работа с одним из фреймворков — LangGraph, LlamaIndex, CrewAI или аналогами).
- Зрелый навык промпт-инжиниринга: декомпозиция задач, структурированный вывод, обработка ошибок и отказов модели, контроль галлюцинаций.
- Понимание RAG: эмбеддинги, векторный поиск, реранкинг, чанкинг, оценка релевантности выдачи.
- Опыт интеграции LLM через API (OpenAI-совместимые и другие) и понимание работы через шлюз/прокси маршрутизации.
- Самостоятельность: умение самому пойти к носителю процесса, снять требования, декомпозировать задачу и довести автоматизацию до результата.
Будет плюсом:
- Опыт с локальными моделями и инференс-стеком (llama.cpp, Ollama, vLLM), подбор и квантизация моделей под задачу.
- Знакомство с MCP (Model Context Protocol) и написанием собственных инструментов/серверов для агентов.
- Опыт с observability для LLM (Langfuse, трейсинг, оценка качества, LLM-as-judge).
- Навыки DevOps: Docker, CI/CD, деплой сервисов (self-hostedинфраструктура — плюс).
- Понимание вопросов безопасности и DLP при работе с ИИ: prompt injection, утечки данных, маскирование чувствительной информации.
- Опыт создания чат-ботов и интеграций (Telegram, внутренние мессенджеры).
