О проекте
2UP AI Platform — корпоративная AI SaaS-платформа для создания и развёртывания граф-агентов на базе LangGraph.
Платформа объединяет агентные сценарии, RAG, работу с несколькими LLM-провайдерами, корпоративные интеграции, мультитенантную архитектуру, потоковую генерацию ответов и инструменты наблюдаемости.
Мы ищем инженера, который сможет работать на стыке сильного Python backend и прикладной AI-разработки: развивать сервисы платформы, создавать LLM-агентов, улучшать RAG-пайплайны и доводить AI-функциональность до стабильного production.
Что предстоит делать
Backend и архитектура платформы
- Разрабатывать и развивать сервисы на Python и FastAPI.
- Проектировать API и внутреннюю архитектуру AI-платформы.
- Работать с асинхронным Python: asyncio, aiohttp, async-драйверы баз данных.
- Развивать pipeline обработки сообщений: инициализация, подготовка контекста, retrieval, вызов LLM, работа с инструментами, кэширование, метрики и форматирование ответа.
- Работать с MongoDB: модели данных, индексы, запросы, агрегации и оптимизация производительности.
- Использовать Redis для кэширования, хранения состояния и временных данных.
- Реализовывать WebSocket/SSE streaming ответов AI-агентов.
- Интегрировать корпоративные и внешние сервисы через API: Jira, Confluence, Google Workspace, S3, OAuth/OIDC и другие системы.
- Писать тесты, участвовать в code review и рефакторинге существующего кода.
LLM, агенты и RAG
- Разрабатывать AI-агентов и графовые workflow на LangGraph.
- Реализовывать StateGraph, tool calling, memory, управление контекстом, ветвлениями и обработкой ошибок.
- Создавать и улучшать RAG-пайплайны для работы с документами и корпоративными источниками знаний.
- Настраивать загрузку и обработку PDF, DOCX, PPTX, wiki, тикетов и других источников.
- Работать с чанкингом, метаданными, embeddings, векторным и гибридным поиском.
- Настраивать retrieval, reranking, фильтрацию и цитирование источников.
- Интегрировать разные LLM через OpenAI API, Anthropic API, OpenRouter, LiteLLM или аналогичные инструменты.
- Разрабатывать MCP-инструменты и подключать их к агентному фреймворку.
- Улучшать качество ответов и снижать количество галлюцинаций.
- Оптимизировать latency, стоимость запросов, размер контекста и выбор моделей.
Качество и эксплуатация
- Настраивать трассировку и наблюдаемость LLM-сценариев.
- Формировать наборы тестовых запросов и проводить регрессионные проверки.
- Использовать Langfuse, RAGAS, LLM-as-a-judge или аналогичные подходы.
- Участвовать в контейнеризации, CI/CD, мониторинге и логировании.
- Анализировать production-инциденты и повышать устойчивость AI-сервисов.
Обязательные требования
- От 3 лет коммерческого опыта backend-разработки на Python.
- Уверенное знание Python 3.11+.
- Практический опыт разработки production-сервисов на FastAPI, Flask, Django или аналогичных фреймворках.
- Опыт с асинхронным Python.
- Опыт работы с PostgreSQL и/или MongoDB.
- Практический опыт с Redis.
- Уверенная работа с Docker и docker-compose.
- Опыт интеграции внешних API.
- Опыт работы с LLM API и понимание особенностей LLM-систем.
- Практический опыт создания RAG-решений.
- Опыт с LangChain, LangGraph или аналогичными агентными фреймворками.
- Понимание embeddings, vector search, chunking, retrieval и reranking.
- Умение разбираться в существующем коде и развивать уже работающую систему.
Будет плюсом
- Опыт с Qdrant, pgvector, Pinecone, Weaviate или другими векторными хранилищами.
- Опыт с LightRAG, GraphRAG или agentic RAG.
- Практический опыт с Langfuse, LangSmith, RAGAS.
- Опыт разработки MCP-серверов и инструментов.
- Опыт с LiteLLM и несколькими LLM-провайдерами.
- Опыт с Keycloak, OAuth2, OIDC и JWT.
- Опыт разработки мультитенантных SaaS-систем.
- Опыт с S3/MinIO.
- Знание Prometheus, Grafana, Sentry, OpenTelemetry.
- Опыт с Kubernetes и CI/CD.
- Опыт self-hosted LLM, vLLM, Ollama или Hugging Face.
- Опыт fine-tuning моделей через LoRA/QLoRA.
Кого мы ищем
Нам подойдёт инженер, который:
- не ограничивается прототипами и умеет доводить решения до production;
- одинаково уверенно чувствует себя в backend-разработке и AI-интеграциях;
- понимает, что качество AI-системы зависит не только от промпта, но и от архитектуры, данных, retrieval, наблюдаемости и обработки ошибок;
- умеет принимать технические решения с учётом качества, скорости, стоимости и дальнейшего масштабирования;
- готов работать с существующей кодовой базой, а не только создавать решения с нуля.
Условия
- Работа над собственной корпоративной AI-платформой.
- Удалённый или гибридный формат.
- Полная занятость.
- Возможность влиять на архитектуру продукта и технические решения.
- Задачи на стыке backend, LLM, RAG и AI Agents.
- Оформление и уровень дохода обсуждаются индивидуально.
Процесс отбора
- Короткое знакомство с HR.
- Техническое интервью с командой.
- Финальная встреча с руководителем.
