Мы стремимся развивать искусственный интеллект, понимая, что создание безопасной и надежной платформы — фундамент нашей миссии и доверия клиентов. Мы ищем инженера, который поможет нам выстроить новые стандарты в сфере Trust & Safety.
Если вам близок дух Bell Labs или Xerox PARC их лучших лет — дух глубоких исследований, проверки гипотез и доведения идей до работающего продукта (production) — вам к нам.
Вы будете работать на стыке исследований и инженерии, создавая системы защиты от рисков, связанных с большими языковыми моделями (LLM) и ИИ-агентами.
Обязанности
- разработка систем предотвращения фактологических и контекстных галлюцинаций, детекции токсичности, дискриминации и вредоносного контента
- разработка Guardrails
- проектирование и внедрение архитектурных решений и тактик ограничения вывода моделей (guardrails) для защиты пользователей от злоупотреблений
- обучение моделей, дообучение (fine-tuning) и обучение мультимодальных моделей, создание новых нейросетевых архитектур под задачи безопасности
- мониторинг и реагирование, выявление и устранение активных инцидентов, создание инструментов и инфраструктуры для устранения первопричин сбоев (root cause analysis)
- исследования и развитие, тесное сотрудничество с исследователями для внедрения передовых методов AI Safety, участие в профильных конференциях, изучение статей и адаптация мирового опыта под наши продукты
- оценка соответствия, измерение и улучшение соответствия поведения ИИ-моделей и агентов человеческим ценностям и этическим нормам.
Требования
- опыт в безопасности, увас есть опыт работы в сфере контент-модерации, борьбы с мошенничеством (fraud) или злоупотреблениями
- отличное знание Python, готовность быстро углубиться в Python-экосистему для ML
- опыт развертывания классификаторов и ML-моделей в продакшене или сильное желание освоить современную ML-инфраструктуру
- понимание принципов проектирования и обучения нейросетей: от классических CNN/RNN до современных трансформеров и мультимодальных архитектур
- опыт разработки ИИ-агентов и понимание архитектур многоагентных систем (Multi-Agent Systems)
- успешный опыт создания и поддержки высоконагруженных сервисов в условиях быстрого масштабирования
- навык критической оценки рисков новых функций и поиска инновационных решений для их минимизации (mitigation) без ухудшения пользовательского опыта (UX).
Условия
- комфортный современный офис рядом с м. Кутузовская, гибридный график работы, возможность работать удаленно из другого региона
- ежегодный пересмотр зарплаты и годовая премия по результатам работы
- расширенный ДМС, льготное страхование для семьи, корпоративный спортзал и зоны отдыха
- доступ к более чем 400 образовательным программам СберУниверситета для профессионального и карьерного роста
- финансовые льготы: гибкий дисконт по ипотечному кредиту (1/3 ключевой ставки ЦБ), бесплатная подписка СберПрайм+, скидки от партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.
