Инженер по машинному обучению

О компании Inworld

Inworld — это исследовательская лаборатория, состоящая из ведущих исследователей и инженеров, создающих лучшие в мире модели голосового взаимодействия в реальном времени.

Сегодня наши модели занимают первое место в мире среди моделей голосового взаимодействия в реальном времени. Они используются для поддержки крупнейших потребительских AI-приложений в таких категориях, как здоровье, фитнес, обучение, терапия, компаньоны, клиентский опыт и медиа; охватывая сотни миллионов конечных пользователей. Наша работа охватывает такие области, как исследование и разработка передовых моделей, оптимизация вывода в реальном времени и создание лучших в своем классе API и продуктов, которые позволяют разработчикам взаимодействовать со своими пользователями.

Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta и Стэнфорда, среди прочих. Наша технология поддерживает опыт таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных AI-компаний в мире и названы одной из 10 лучших стартапов LinkedIn в США.

Кого мы ищем

Год назад надежные агентные системы и многомодальный вывод с задержкой менее секунды в масштабе практически не существовали. Никто не имеет десятилетнего опыта в этой области. Поэтому мы не ищем шаблон резюме — мы ищем сильных людей с разным опытом, которые быстро учатся, преуспевают в условиях неопределенности и могут показать, что они построили, сломали и поняли.

Опыт, который мы считаем полезным

Вам не нужен весь этот опыт. Но достаточно, чтобы обосновать свою кандидатуру.

• Оптимизация вывода. Глубокое понимание современных фреймворков обслуживания и таких техник, как vLLM или TRT-LLM.

• Ускорение моделей. Практический опыт с квантизацией, дистилляцией, стратегиями кэширования, непрерывной пакетной обработкой, постраничным вниманием и спекулятивным декодированием.

• Высокопроизводительные системы. Владение C++, CUDA, Rust или высоко оптимизированным Python. Вы умеете профилировать код и выжимать максимум производительности из GPU NVIDIA.

• Распределённые системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательским балансировщиком нагрузки, многогпу/многоузловым выводом и надежной обработкой тысяч одновременных подключений.

• Публичная работа. Нетривиальные проекты системного программирования, вклад в открытые исходные коды крупных движков вывода или глубокие технические статьи.

• Полный цикл владения. Вы можете взять модель от исследовательской команды, контейнеризовать её, оптимизировать обслуживание и обеспечить надежную работу в продакшене.

• Образование. Докторская степень в области компьютерных наук, физики, математики или эквивалентный практический опыт создания бэкенд- или ML-систем.

• Профессиональное владение английским языком (письменно и устно) обязательно, так как вы будете ежедневно сотрудничать с руководством и инженерными командами, базирующимися в США.

Кто здесь преуспевает

• Вам не нужен план, чтобы начать движение; вы комфортно выбираете направление и строите карту по ходу.

• Вы считаете, что инженерия не закончена, пока продукт не выпущен и стабилен. Вы отдаёте предпочтение реальному воздействию, а не чисто теоретическим оптимизациям.

• Вы не просто выпускаете код; вы одержимы вопросом «почему». Вы первый, кто поставит под вопрос архитектуру, если думаете, что есть лучший способ решить основную проблему задержки или пропускной способности.

• Вас не устраивает «так сказал менеджер продукта». Вы стремитесь к глубокому пониманию и хотите понять фундаментальную логику каждого нашего решения.

Каково работать у нас

Мы даём вам неясные задачи и ожидаем, что вы сделаете их ясными. Мы ценим инженеров, которые говорят «я ещё не знаю», а затем разрабатывают бенчмарк или прототип, чтобы выяснить это. Мы рассматриваем производительность, задержку и надежность как первоклассные характеристики продукта, а не как пункт для галочки перед запуском. Воздействие стоит превыше всего, хотя мы поддерживаем обмен работой и вклад в открытый исходный код, который продвигает отрасль вперёд. Ваша работа должна быть видимой. Плоская структура, быстрые итерации, минимум бюрократии.

Для кандидатов, заинтересованных в будущем переезде в район залива Сан-Франциско, может быть предоставлена полная поддержка по визе США и переезду, в зависимости от бизнес-потребностей и применимых юридических и рабочих требований.