Мы стремимся к развитию искусственного интеллекта и понимаем, что создание безопасной и надежной платформы крайне важно для нашей миссии и наших клиентов. Поэтому мы ищем инженера, который поможет нам развивать возможности в сфере доверия и безопасности.
В этой роли вы будете работать над системами предотвращения рисков связанных с фактологическими и контекстными галллюцинациями больших языковых моделей и ИИ-агентов, проявлений токсичности и дискриминации и предотвращеним злоупотреблений. Вы будете обучать и дообучать мультимодальные модели, создавать новые архитектуры моделей и проектировать тактики их применения например такие как создание guardrails.
Если вам близок дух Bell Labs/Xerox PARC в их лучшие годы — исследовать, проверять гипотезы и доводить до прома — вам к нам.
Обязанности
- разрабатывать, создавать и поддерживать решения для борьбы со злоупотреблениями, модерации контента, детекции галлюцинаций, предназначенную для защиты компании и конечных пользователей от нежелательного поведения
- тесно сотрудничать с другими инженерами и исследователями для использования как стандартных, так и новых методов ИИ с целью измерения, мониторинга и улучшения соответствия AI-моделей и ИИ-агентов человеческим ценностям
- изучать статьи, материалы профильных российских и мировых конференций по AI Safety и участвовать в них
- выявлять и устранять активные инциденты на платформе, а также создавать новые инструменты и инфраструктуру, которые устраняют первопричины сбоев в системе.
Требования
- опыт работы в сфере безопасности контента, борьбы с мошенничеством или злоупотреблениями, либо мотивированы и горите желанием работать над актуальными вопросами безопасности ИИ
- владение Python или современными языками, такими как C++, Rust или Go, и готовы быстро освоить Python
- опыт развертывания классификаторов или модели машинного обучения, или желание познакомиться с современной ML-инфраструктурой
- опыт проектирования и обучения нейросетевых архитектур — от классических CNN/RNN до современных трансформеров
- опыт разработки ИИ-агентов и общее понимание передовых архитектур MAS
- опыт создания и поддержки производственных сервисов в условиях быстрого роста и масштабирования
- навык критической оценки рисков нового продукта или функции и нахождения инновационных решений для их mitigation, не ухудшая пользовательский опыт.
Условия
- комфортный современный офис рядом с м. Кутузовская
- гибридный формат работы
- ежегодный пересмотр зарплаты и годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- расширенный ДМС, льготное страхование для семьи
- гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.
