Инженер по применению больших языковых моделей

О компании ActAI

Сегодня более 5 миллиардов пользователей используют базовые приложения, такие как электронная почта, заметки, задачи, календарь, и они не являются AI-нативными. Наша миссия — создавать проактивные приложения для любого человека в мире, который не привык к сложным подсказкам. Мы стремимся привнести интеллект в разговоры, поручения, организацию и рабочие процессы с минимальным или отсутствующим использованием подсказок.

Наше первое приложение — это мобильное коммуникационное приложение с приоритетом на агента. Мы считаем, что создание приложений, которые пользователи используют ежедневно для общения, координации и совместной работы, поможет интегрировать ИИ в их жизнь. Конечный эффект — устранение дезинформации, достижение низких затрат на координацию, обеспечение высококачественных задач и сотрудничества в масштабе с минимальным или отсутствующим использованием подсказок.

О роли

В качестве инженера по приложениям на базе больших языковых моделей (LLM) вы будете создавать слой интеллекта, который обеспечивает AI-опыт ActAI.

Вы будете работать на пересечении LLM, программной инженерии и продукта — проектировать рабочие процессы агента, улучшать поведение моделей и превращать возможности ИИ в надежный пользовательский опыт.

Вы будете полностью отвечать за задачи — от понимания потребностей пользователей, проектирования агентных рабочих процессов, интеграции моделей и инструментов, создания системы оценки и постоянного улучшения поведения ИИ в продакшене.

Основные задачи

• Создавать и запускать приложения и рабочие процессы агентов на базе LLM

• Проектировать системы для рассуждений, планирования, памяти, использования инструментов и многошагового выполнения

• Создавать надежные оркестрационные пайплайны, которые превращают вероятностные выходы моделей в предсказуемые, наблюдаемые и безопасные действия

• Интегрировать LLM с API, базами данных, поиском, внутренними сервисами и внешними инструментами.

• Разрабатывать методы подсказок, инженерии контекста, структурированных выходных данных, вызова инструментов и другие техники для улучшения поведения моделей

• Создавать фреймворки оценки и наборы данных для измерения качества, надежности и регрессий ИИ

• Отлаживать AI-системы по всему стеку — от поведения моделей и подсказок до оркестрации, бэкенд-сервисов и пользовательского интерфейса продукта

• Оптимизировать AI-системы по качеству, задержкам и стоимости

• Тесно сотрудничать с командами продукта и инженерии для превращения неоднозначных продуктовых задач в работающие AI-решения

• Устанавливать производственные практики для наблюдаемости, трассировки, экспериментов, оценки и непрерывного улучшения

Технический стек

• Python

• API LLM и поставщики моделей, включая совместимые с OpenAI API и модели с открытыми весами

• Фреймворки агентов и системы оркестрации

• Векторные базы данных и системы поиска

• Бэкенд-сервисы, API и распределённые системы

• PyTorch / JAX

Идеальный опыт

• Сильные основы программной инженерии с опытом создания приложений на базе ИИ

• Практический опыт работы с LLM, генеративным ИИ или системами на базе агентов

• Опыт проектирования подсказок, рабочих процессов, оценок или поведения ИИ

• Умение писать чистый, производственный код высокого качества

• Комфортная работа на разных уровнях абстракции (модель → система → продукт)

• Сильные навыки решения проблем в неоднозначной, быстро меняющейся среде

• Ориентация на выпуск, итерации и непрерывное улучшение

Результаты

• Функции ИИ быстро выходят в продакшен и приносят измеримый эффект для пользователей

• Рабочие процессы на базе LLM надежны, масштабируемы, наблюдаемы и поддерживаемы

• Качество ИИ улучшается через систематическую оценку, эксперименты и итерации

• Рабочие процессы ИИ становятся все более предсказуемыми, эффективными и экономичными

• Сложные возможности ИИ преобразуются в простые, интуитивно понятные пользовательские интерфейсы