Backend-разработчик Python (LLM-агенты)

О продукте. ИСКРА — корпоративный ИИ-ассистент: агенты, работающие с задачами и документами компании, RAG, интеграции с внешними системами (Bitrix24, GitLab, 1С, n8n). Свой продукт, небольшая команда. Инференс на собственных open-source моделях, без внешних LLM-API.

Стек. Python 3.11, FastAPI, asyncpg, PostgreSQL 16 + pgvector, Redis, Kafka, LangChain / LangGraph, Pydantic v2. Вебклиент отдельный: NestJS + Next.js, TypeScript.

Обязанности:

• Проектировать и поднимать новых агентов под предметную область заказчика: промпт, набор инструментов, мультиагентные сценарии.
• Расширять инструментарий агентов: новые tool calls, изолированное исполнение кода, выгрузка результатов файлами, поиск по документам.
• Повышать качество ответов и делать их проверяемыми: автоматическая оценка по трейсам, ссылки на источники, эвалы поиска.
• Интегрировать внешние системы: Bitrix24, 1С, медицинские информационные системы и справочники, инкрементальная синхронизация данных, инструменты агентов поверх них.
• Развивать бизнес-логику продукта: задачи, проекты, отделы, чаты, уведомления, файлы, отчёты руководителю, с проектированием контракта API под фронтенд.
• Участвовать в платформенных изменениях: Kafka, инференс через LiteLLM/vLLM, безопасность API, CI/CD.

• Python в бэкенде, уверенный asyncio.
• Архитектурное мышление: разделение ответственности между слоями, проектирование API и схемы данных, умение обосновать решение.
• Активная разработка с нейросетями не менее 2 лет: LLM-агенты в проде, LangGraph или аналог, tool calling, промпты.
• PostgreSQL без ORM: SQL, миграции, индексы, план запроса.
• Работа через MR с ревью и тестами (pytest).
• Самостоятельно разбираетесь в чужом коде по документации и логам.

Плюсом будут: TypeScript (NestJS / Next.js), pgvector, vLLM / LiteLLM, Docker, GitLab CI, LangSmith.

Как работаем. Небольшая команда, опытный тимлид. Feature-ветки, MR, ревью, спеки в репозитории. Выкатку на прод делает тимлид.

Гарантируем: Стабильную и белую заработную плату. Поддержку и ДМС.