Инженер по машинному обучению

О компании Inworld

Inworld — это исследовательская лаборатория, состоящая из ведущих исследователей и инженеров, создающих лучшие в мире модели голосового взаимодействия в реальном времени.

Сегодня наши модели занимают первое место в мире по качеству голосового взаимодействия в реальном времени. Они используются для поддержки крупнейших потребительских AI-приложений в таких категориях, как здоровье, фитнес, обучение, терапия, компаньоны, клиентский опыт и медиа; охватывая сотни миллионов конечных пользователей. Наша работа охватывает такие области, как исследование и разработка передовых моделей, оптимизация вывода в реальном времени и создание лучших в своем классе API и продуктов, которые позволяют разработчикам взаимодействовать со своими пользователями.

Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta и Стэнфорда, среди прочих. Наша технология поддерживает проекты таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных AI-компаний в мире и названы одной из 10 лучших стартапов LinkedIn в США.

Кого мы ищем

Год назад надежные агентные системы и многомодальный вывод с задержкой менее секунды в масштабах практически не существовали. Никто не имеет десятилетнего опыта в этой области. Поэтому мы не ориентируемся на шаблон резюме — мы ищем сильных специалистов с разным опытом, которые быстро учатся, успешно работают в условиях неопределенности и могут показать, что они создали, сломали и поняли.

Опыт, который мы считаем полезным

Вам не нужен весь этот список. Но достаточно, чтобы обосновать свою кандидатуру.

• Оптимизация вывода. Глубокое понимание современных фреймворков для сервинга и таких техник, как vLLM или TRT-LLM.

• Ускорение моделей. Практический опыт с квантизацией, дистилляцией, стратегиями кэширования, непрерывной пакетной обработкой, постраничным вниманием и спекулятивным декодированием.

• Высокопроизводительные системы. Владение C++, CUDA, Rust или высоко оптимизированным Python. Вы умеете профилировать код и выжимать максимум производительности из GPU NVIDIA.

• Распределённые системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательским балансировщиком нагрузки, многогпу/многоузловым выводом и надежной обработкой тысяч одновременных подключений.

• Публичная работа. Нетривиальные проекты системного программирования, вклад в открытые исходные коды крупных движков вывода или глубокие технические статьи.

• Полный цикл ответственности. Вы можете взять модель от исследовательской команды, контейнеризовать её, оптимизировать сервинг и обеспечить надежную работу в продакшене.

• Образование и опыт. Докторская степень в области компьютерных наук, физики, математики или эквивалентный практический опыт создания бэкенд- или ML-систем.

Кто здесь преуспевает

• Вам не нужна дорожная карта, чтобы начать движение; вы комфортно выбираете направление и строите карту по ходу.

• Вы считаете, что инженерная работа не закончена, пока продукт не выпущен и стабилен. Вы отдаёте предпочтение реальному влиянию, а не чисто теоретическим оптимизациям.

• Вы не просто выпускаете код; вы одержимы вопросом «почему». Вы первыми ставите под сомнение архитектуру, если считаете, что есть лучший способ решить основную проблему с задержкой или пропускной способностью.

• Вас не устраивает «так сказал менеджер продукта». Вы стремитесь к глубокому пониманию и хотите понять фундаментальную логику каждого принятого решения.

Каково работать здесь

Мы даём вам неясные задачи и ожидаем, что вы сделаете их понятными. Мы ценим инженеров, которые говорят «я ещё не знаю», а затем разрабатывают бенчмарк или прототип, чтобы выяснить ответ. Мы рассматриваем производительность, задержку и надежность как первоклассные характеристики продукта, а не как пункт для галочки перед запуском. Влияние стоит на первом месте, хотя мы поддерживаем обмен работой и вклад в открытый исходный код, который продвигает отрасль вперёд. Ваша работа должна быть видимой. Плоская структура, быстрые итерации, минимум бюрократии.

Мы верим в силу личного сотрудничества для решения самых сложных задач и формирования сильной командной культуры. Мы предлагаем помощь с переездом и с нетерпением ждём вашего присоединения к нам в офисе в Маунтин-Вью.

Базовый диапазон зарплаты для этой позиции на полный рабочий день составляет от 270 000 до 500 000 долларов США + бонусы + акции + льготы.