Ведущий инженер по надежности сайта — платформа искусственного интеллекта

КТО МЫ ТАКИЕ 🌍

Создавать контент, который находит отклик — это здорово, но превращать это внимание в рост — ещё лучше. Именно этим занимается Manychat.

Наши автоматизации на базе ИИ помогают создателям и брендам взаимодействовать с аудиторией в Instagram, Messenger, WhatsApp и TikTok — в нужный момент, с правильным сообщением, без ручной работы.

За ведущей платформой для конверсационного роста стоят более 400 человек на трёх континентах, а навыки ИИ формируют то, как мы строим, как мы работаем и как мы растём.

КОГО МЫ ИЩЕМ 🚀 🌟

Хотите с первого дня формировать архитектуру ИИ-платформы, а не просто поддерживать то, что построил кто-то другой?

Manychat запускает ИИ-функции для бизнеса по всему миру, и мы нанимаем SRE, который будет отвечать за надёжность, производительность и стоимость этой ИИ-инфраструктуры, а также поднимать планку для всей нашей инженерной организации в работе с LLM.

Это не классическая роль SRE с небольшим добавлением ИИ. Нам нужен человек, который понимает ИИ изнутри: вы уже знаете, как современные системы LLM ведут себя в продакшене, такие вещи, как пропускная способность токенов, лимиты провайдеров, ухудшение качества моделей и хвосты задержек вывода, и вы рассматриваете всё это как первоочередную задачу надёжности, а не как второстепенный момент.

Почему эта роль стоит вашего времени:

• ИИ-платформа ещё молода, поэтому вы будете формировать её архитектуру, стандарты и дорожную карту с нуля.

• Ставки высоки. ИИ-функции находятся прямо в критическом пути автоматизации, ориентированной на клиентов, поэтому ваша работа действительно важна для бизнеса, а не только для панели мониторинга.

• Вы будете работать напрямую с руководителем инфраструктуры, имея реальную автономию и видимость того, как ваши решения влияют на результат.

Звучит как та ответственность, которую вы искали?

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ 🚀

• Отвечать за надёжность и производительность нашей ИИ-инфраструктуры: AI Gateway, сервисы вывода и интеграции с Amazon Bedrock, Azure OpenAI и другими провайдерами LLM.

• Проектировать и развивать AI Gateway: маршрутизация, переключение между провайдерами, ограничение скорости, кэширование и защитные механизмы.

• Создавать системы наблюдаемости для ИИ: SLO по задержкам/пропускной способности/ошибкам для каждой модели и провайдера, метрики на уровне токенов, сигналы качества и дрейфа.

• Вести оптимизацию затрат и FinOps для ИИ-нагрузок: видимость затрат по функциям, правильный подбор моделей, стратегии кэширования, микс провайдеров.

• Проводить планирование ёмкости и реагирование на инциденты для сервисов вывода; писать и улучшать инструкции и постмортемы.

• Распространять ИИ-экспертизу по организации: устанавливать стандарты, проверять проекты и обучать команды, выпускающие функции на базе LLM.

ЧТО НУЖНО, ЧТОБЫ БЛЕСТАТЬ В ЭТОЙ РОЛИ 💥

Вам понадобится:

• 5+ лет опыта в SRE / платформенной / инфраструктурной инженерии, включая владение продакшеном на значительном масштабе.

• Практический опыт эксплуатации систем на базе LLM в продакшене: API провайдеров (Bedrock, OpenAI, Anthropic или аналогичные), пайплайны вывода, самостоятельное или управляемое обслуживание моделей.

• Глубокие знания облачных технологий: AWS, Kubernetes, Terraform/IaC, CI/CD.

• Сильные навыки наблюдаемости (Prometheus/Grafana, OpenTelemetry или эквивалент) и опыт определения SLO для недетерминированных систем.

• Подтверждённый опыт оптимизации затрат: вы можете показать, где сократили расходы на облако или вывод и как сделали затраты прозрачными.

• Влияние на уровне staff: вы задавали техническое направление за пределами своей команды и вовлекали других.

Будет плюсом, если у вас есть:

• Опыт создания или эксплуатации шлюза/прокси для LLM (например, LiteLLM, Kong AI Gateway, кастомные решения).

• Опыт оптимизации GPU-нагрузок, квантизации или работы с фреймворками обслуживания (vLLM, TGI, Triton).

• Опыт с пайплайнами оценки и мониторинга качества вывода LLM.

Почему эта роль

• Владение с нуля: ИИ-платформа молода; вы будете формировать её архитектуру, стандарты и дорожную карту.

• Реальный масштаб и высокая ответственность: ИИ-функции находятся в критическом пути автоматизации, ориентированной на клиентов.

• Прямое сотрудничество с руководителем инфраструктуры; высокая автономия и прозрачность.

ЧТО МЫ ПРЕДЛАГАЕМ 🤗

Мы искренне заботимся о вашем развитии, благополучии и комфорте:

• 🌍 Гибридное введение в должность с возможностью начать работу удалённо и поддержка при переезде для вас и вашей семьи.

• 💙 Всеобъемлющая медицинская страховка для вас и вашей семьи.

• 📚 Бюджет на профессиональное развитие: билеты на конференции, онлайн-курсы и другие ресурсы для вашего роста.

• 🫶 Гибкий пакет льгот: никаких универсальных бонусов. Вы получаете бюджет и сами решаете, куда его направить — на здоровье и благополучие, семью или обустройство домашнего офиса.

• 🪴 Гибридная работа и щедрый, гибкий отпуск — планируется с вашей командой, а не ограничивается жёсткими квотами.

• 🍽️ Привилегии в офисе, включая бесплатные обеды и закуски.

• 🤝 Спортивные мероприятия за счёт компании, ежегодные выездные встречи и тимбилдинги.

• 🤖 ИИ — это не бонус, а способ работы. Claude, OpenAI и другие включены по умолчанию с первого дня, и мы поддерживаем команды в использовании всего, что делает их быстрее.

Manychat — работодатель, предоставляющий равные возможности. Мы стремимся создать разнообразную и инклюзивную команду. Мы не дискриминируем квалифицированных сотрудников или кандидатов по признаку расы, цвета кожи, религии, гендерной идентичности, пола, сексуальной ориентации, сексуальной идентичности, беременности, национального происхождения, происхождения, гражданства, возраста, семейного положения, физического или психического состояния, медицинского состояния, военного статуса или любой другой характеристики, защищённой местным законодательством или постановлениями.

Это обязательство также отражается в нашем опыте взаимодействия с кандидатами. Если у вас есть индивидуальные потребности, которые могут потребовать адаптации в процессе собеседования, пожалуйста, укажите это в заявке. Мы сделаем всё возможное, чтобы помочь вам на протяжении всего процесса интервью, чтобы обеспечить ваш успех.