Ведущий инженер-программист

О компании Inworld

Inworld — это исследовательская лаборатория, состоящая из ведущих исследователей и инженеров, создающих лучшие в мире модели голосового взаимодействия в реальном времени.

Сегодня наши модели занимают первое место в мире среди моделей голосового взаимодействия в реальном времени. Они используются для поддержки крупнейших потребительских AI-приложений в таких категориях, как здоровье, фитнес, обучение, терапия, компаньоны, клиентский опыт и медиа; охватывая сотни миллионов конечных пользователей. Наша работа охватывает такие области, как исследование и разработка передовых моделей, оптимизация вывода в реальном времени и создание лучших в своем классе API и продуктов, которые позволяют разработчикам взаимодействовать со своими пользователями.

Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta и Стэнфорда, среди прочих. Наша технология поддерживает опыт таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных AI-компаний в мире и названы одной из 10 лучших стартапов LinkedIn в США.

О роли:

Inworld недавно запустила несколько захватывающих новых продуктов (Inworld TTS, Inworld STT, Speech-to-Speech / Realtime API и Inworld Router) для потребительских AI-приложений, и мы ищем амбициозного и компетентного старшего/ведущего инженера backend, который присоединится к нам и поможет вывести платформу Inworld AI на новый уровень. Вот над чем вы будете работать:

• Inworld Router: интеллектуальный слой маршрутизации, который предоставляет разработчикам единый API для доступа к более чем 200 LLM. Вы будете отвечать за основные системы для переключения между провайдерами при сбоях, маршрутизации на основе стоимости/задержки, живых A/B экспериментов и наблюдаемости в реальном времени на огромном масштабе.

• Realtime API

• API-сервисы моделей: наши кастомные модели TTS/STT и API включают бесплатное мгновенное клонирование голоса. Подробнее и примеры можно услышать на inworld.ai/tts. Еще лучше — зарегистрируйтесь самостоятельно на platform.inworld.ai, попробуйте готовые голоса, клонируйте свой собственный голос всего за несколько секунд и поделитесь с нами своим мнением! Помимо TTS, есть также LLM, Knowledge/RAG, STT и многое другое.

• Новые захватывающие продукты, амбициозные и масштабные, запланированные к запуску позже в этом году.

• Сервисы для контроля и оптимизации. Мы только начинаем развивать эти более глубокие возможности.

• Наконец, сложные и захватывающие инфраструктурные проекты: платформа для новых продуктов, разработка и интеграция лучших инструментов разработки, проекты, такие как система биллинга и прочее.

В качестве старшего/ведущего инженера программного обеспечения вы будете значительной частью одной или нескольких из этих областей. Основные задачи:

• Быстрая доставка. AI развивается еженедельно, поэтому возможностей очень много. Мы хотим двигаться быстро, чтобы захватить эти возможности, пока они свежи и полны потенциала.

• От нуля к единице. Платформа — это не просто копия. У нас есть видение глубокой платформы/набора возможностей, которые значительно упрощают разработчикам масштабирование и развитие их AI.

• Реальное время, онлайн. По мере того как потребительские приложения становятся более способными слушать и говорить, производительность будет иметь значение, и AI должен адаптироваться в реальном времени. Это смелые, но захватывающие вызовы.

• Сложность мультипровайдеров в масштабе. Inworld Router должен интеллектуально маршрутизировать между сотнями моделей и провайдеров, обрабатывая переключение при сбоях, «липкие» сессии, оптимизацию затрат и условную логику, всё с минимальной задержкой. Вы будете проектировать системы, где каждая миллисекунда и каждое решение маршрутизации имеют значение.

Наконец, почти всё здесь — это сотрудничество с нашими смежными командами машинного обучения, поскольку ML и AI критически важны для обеспечения обучения и адаптивности, центральных для этого видения.

Обратите внимание: это роль с фокусом на индивидуальный вклад. Мы ищем человека, который любит прямой технический вклад вместе с очень способными коллегами.

Что вы будете делать:

• Определять значительный масштаб: сотрудничать с менеджерами продуктов, инженерами и руководителями, чтобы определить самые важные потребности продукта для текущего фокуса.

• Действовать с технической автономией: у вас есть значительная свобода предлагать, как решать поставленные задачи, включая внедрение новых технических зависимостей или стандартов, если это лучший выбор.

• Сотрудничать, выполнять, доставлять: это ядро цикла разработки. Мы стремимся оптимизировать и скорость, и качество, несмотря на то, что управлять этим компромиссом очень непросто.

• Анализировать и продвигать улучшения: особенно в роли старшего инженера, выступать за и реализовывать улучшения системы, как связанные с ключевыми функциями, так и независимые от них.

Ожидаемый опыт:

Обязательные требования

• Отличные навыки программирования и опыт работы с языками программирования backend со статической типизацией, предпочтительно Go, Python, C++ или Rust

• Опыт разработки и развертывания облачных сервисов с нагрузкой как минимум сотни запросов в секунду (желательно больше)

• Опыт работы с реляционными базами данных (PostgreSQL или MySQL)

• Практический опыт работы с кэшированием (Redis или Memcached), pubsub/очередями, конвейерами данных (Flink, Beam) и облачным хранилищем

• Отличные устные и письменные коммуникативные навыки, умение легко сотрудничать и координироваться с другими ролями и инженерами, заслуженный и уважаемый член команды

Дополнительные преимущества

• Опыт создания API-шлюзов, слоев маршрутизации/прокси или систем оркестрации с несколькими провайдерами

• Опыт работы с аналитическими или временными базами данных (ClickHouse, Timescale, InfluxDB)

• Опыт работы с OpenTelemetry

• Опыт работы с C++

Базовый диапазон заработной платы для этой полной занятости составляет от 180 000 до 260 000 канадских долларов. Помимо базовой оплаты, общая компенсация включает акции и льготы. В пределах диапазона индивидуальная оплата определяется местом работы, уровнем и дополнительными факторами, включая компетенции, опыт и бизнес-потребности. Диапазон базовой оплаты может изменяться и быть скорректирован в будущем.