Руководитель направления AI Safety

Мы развиваем GigaChat — самый быстрорастущий AI-проект Сбера — и ищем сильного руководителя направления безопасности ИИ. Нашими моделями пользуются миллионы людей, и наша задача делать LLM безопасной — чтобы ее просто так нельзя было уболтать продать ваш Chevrolet за 1 рубль. А ещё, помимо безопасности, наша команда развивает GigaEmbeddings — эмбеддер, который больше года удерживает топ-1 по качеству среди русскоязычных моделей на лидерборде ruMTEB.

Это роль для технического лидера, который возглавит направление: от обучения быстрых guard-моделей и online-RL до систематического редтиминга, аналитики атак на реальном трафике и развития лучших русскоязычных эмбеддеров.

Обязанности

Улучшать модели-защиты

• Обучать компактные и быстрые классификаторы входящих и исходящих сообщений: дистилляция, работа в жёстком бюджете latency, не деградируя качество основной модели.

• Развивать online-RL контур: дообучать защиты и модель на свежих атаках и сигналах с продакшена, сокращая цикл от обнаружения новой атаки до устойчивости к ней.

• Балансировать метрики защит: пропущенные нарушения против ложных срабатываний, и держать оба показателя под контролем на масштабе.

• Выстроить систематический red teaming: ручной и автоматизированный поиск джейлбрейков, prompt injection, обходов защит — перед каждым релизом и постоянно на живых моделях и продакшен-логах.

Улучшать эмбеддеры

• Развивать GigaEmbeddings: подбор и синтез данных, contrastive learning, hard negatives, дистилляция в компактные версии — удерживая топ-1 на ruMTEB.

• Применять эмбеддеры в задачах безопасности: кластеризация атак и поиск аномалий в пользовательских логах, отслеживание эволюции техник обхода.

• Собирать из продакшен-данных датасеты, и целевые тестовые наборы под конкретные кейсы: например, рефразы или ранжирование.

• Быстро отвечать данными на вопрос «почему защиту пробили и что именно сломалось» и превращать разборы инцидентов в улучшения моделей.

Для нас важно

• Отличное владение Python и PyTorch, практический опыт обучения моделей — классификаторов и LLM, а не только их использования.

• Опыт с RL-методами дообучения (RLHF/DPO/online-RL) или готовность быстро в них погрузиться на практическом уровне.

• Умение работать с продакшен-данными и обучать классификаторы: вытащить сигнал из логов, собрать датасет, посчитать метрики и понять, где разница значима, а где — шум.

Требования

• Опыт обучения guard-моделей (Llama Guard и аналоги) или построения модерационных систем под высокой нагрузкой.

• Опыт обучения эмбеддеров или ретриверов и знакомство с бенчмарками MTEB/ruMTEB.

• Опыт автоматизированного red teaming и знакомство с профильной литературой по adversarial robustness.

• Опыт в командах безопасности разработчиков моделей; публикации или open-source вклад в области AI safety.

Условия

• Большую степень влияния на безопасность моделей, которыми пользуются миллионы людей.

• Возможность развивать GigaEmbeddings — лучший русскоязычный эмбеддер, больше года удерживающий топ-1 на ruMTEB.

• Команду сильных инженеров и исследователей.

• Возможность совмещать управление направлением с глубокой технической работой.

• Конкурентную компенсацию, премии и расширенный соцпакет.