Ведущий архитектор решений по машинному обучению (Token Factory)

О компании Nebius:

Nebius возглавляет новую эру в облачной инфраструктуре для глобальной экономики ИИ. Мы создаём полнофункциональную AI-облачную платформу, которая поддерживает разработчиков и предприятия от обработки данных и обучения моделей до развертывания в продакшене, без затрат и сложности создания крупной внутренней инфраструктуры AI/ML.

Создано инженерами для инженеров. От масштабной оркестрации GPU до оптимизации вывода, мы решаем сложные задачи в области вычислений, хранения, сетей и прикладного ИИ.

Компания котируется на Nasdaq (NBIS) и имеет штаб-квартиру в Амстердаме, с глобальным присутствием и исследовательскими центрами в Европе, Великобритании, Северной Америке и Израиле. В нашей команде более 1500 человек, включая сотни инженеров с глубокими знаниями в области аппаратного обеспечения, программного обеспечения и исследований ИИ.

Роль

Эта позиция находится в рамках Nebius Token Factory — нашей безсерверной платформы для запуска и настройки open-source LLM в продакшене. Token Factory позволяет выполнять безсерверный вывод и дообучение (LoRA, полное FT, RFT) с поддержкой внутренних оптимизаций, таких как кастомное спекулятивное декодирование, квантизация, маршрутизация с учётом кэша и выделенные конечные точки. Клиенты обращаются к нам, чтобы перейти от прототипа к масштабному продакшену без затрат и сложности создания и настройки собственного стека вывода.

Мы ищем опытного старшего архитектора ML-решений, который будет поддерживать клиентов, использующих безсерверные платформы вывода и дообучения Nebius Token Factory для open-source LLM в различных модальностях. В этой роли вы будете сотрудничать с клиентами для проектирования и реализации оптимизированных рабочих процессов вывода, создавать кастомизированные решения на базе LLM и проектировать масштабируемые AI-приложения с использованием наших обслуживаемых моделей. Вы также будете тесно работать с нашей backend-командой для улучшения платформы в соответствии с потребностями клиентов.

Вы можете работать удалённо из Европы.

Ваши обязанности будут включать: 

• Оптимизация вывода LLM в различных модальностях для создания бизнес-ценности и поддержки целей клиентов
• Поддержка в дообучении с учителем и с подкреплением для максимизации качества моделей для клиентов
• Проектирование и реализация решений на базе LLM с использованием сервисов вывода Nebius Token Factory
• Создание готовых к продакшену приложений с использованием наших безсерверных LLM API, включая мультимодальные модели (текст, изображение, аудио) и модели для специфических доменов
• Предоставление технической экспертизы в области prompt engineering, архитектур RAG и выбора моделей
• Сотрудничество с командами продукта и разработки для сбора обратной связи от клиентов и формирования дорожной карты платформы
• Консультирование клиентов по масштабированию от POC до продакшена с акцентом на производительность, надёжность и экономическую эффективность

Мы ожидаем, что у вас есть: 

• Опыт работы в ML/AI системах более 5 лет, из которых не менее 2 лет — с LLM и генеративным ИИ
• Глубокие знания экосистемы LLM, включая архитектуры моделей и подходы к дообучению
• Практический опыт с:
  • Запуском LLM в продакшене: развертывание и эксплуатация рабочих нагрузок вывода
  • Дообучением LLM, включая дообучение с учителем (SFT/LoRA) и подготовку/курирование данных; опыт с RL-основанным дообучением будет большим плюсом
  • Оценкой LLM: создание специализированных бенчмарков и пайплайнов офлайн/онлайн оценки, включая настройки LLM в роли судьи
  • Фреймворками и библиотеками для вывода (например, vLLM, SGLang, TensorRT-LLM, Transformers)
  • Развёртывание приложений на базе LLM с использованием API OpenAI, Anthropic или open-source моделей
• Сильные навыки программирования на Python
• Отличные коммуникационные навыки с умением ясно объяснять технические концепции разной аудитории

Будет плюсом, если у вас есть: 

• Опыт работы с фреймворками и библиотеками для вывода (например, vLLM, SGLang, TensorRT-LLM)
• Опыт работы с мультимодальными AI-моделями (например, vision-language, speech)
• Знание инструментов DevOps (Docker, Kubernetes)
• Вклад в open-source проекты в области ML/AI

Предпочтительный технический стек:

• Языки программирования: Python
• ML-фреймворки и библиотеки: vLLM, TensorRT-LLM, SGLang, Transformers, SDK OpenAI/Anthropic
• Инструменты MLOps и DevOps: Kubernetes (K8s), Docker, Git
• Облачные платформы: AWS (SageMaker, Bedrock), GCP (Vertex AI), Azure (Azure ML)

Преимущества и бонусы:

• Конкурентоспособная компенсация
• Возможности карьерного роста и обучения
• Гибкость и автономия
• Культура сотрудничества и инноваций
• Возможность работать над значимыми AI-проектами
• Международная среда и талантливые команды

Каково работать в Nebius:

Быстрое развитие - Смелое мышление - Постоянный рост - Значимое влияние - Доверие и реальная ответственность - Возможность формировать будущее ИИ 

Заявление о равных возможностях:

Nebius является работодателем, предоставляющим равные возможности. Мы стремимся создавать инклюзивную и разнообразную рабочую среду и обеспечивать равные возможности трудоустройства во всех аспектах занятости. Мы не допускаем дискриминации по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, происхождения, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любой другой характеристики, защищённой применимым законодательством.

Кандидаты должны иметь разрешение на работу в стране, в которой они подают заявку, и будут обязаны предоставить подтверждение права на трудоустройство как условие найма. 

Если вам необходимы особые условия во время процесса подачи заявки, пожалуйста, сообщите нам.