Старший научный сотрудник – оценка безопасности ИИ

Почему Faculty?

Мы основали Faculty в 2014 году, потому что считали, что ИИ станет самой важной технологией нашего времени. С тех пор мы работали с более чем 350 глобальными клиентами, помогая им трансформировать их результаты с помощью человеко-ориентированного ИИ. Вы можете прочитать о нашем реальном влиянии здесь.

Мы не гоняемся за модными трендами. Мы создаём, строим и внедряем ответственный ИИ, который действительно меняет ситуацию — и мы хорошо знаем, как это делать качественно. Мы приносим нашим клиентам непревзойдённую глубину технической, продуктовой и исполнительной экспертизы, работая с правительственными структурами, финансовыми организациями, розничной торговлей, энергетикой, науками о жизни и обороной.

Наш бизнес и репутация быстро растут, и мы всегда ищем людей, которые разделяют наше интеллектуальное любопытство и желание создать позитивное наследие с помощью технологий.

ИИ — это технология, определяющая эпоху, присоединяйтесь к компании, где вы получите возможность представить её самые мощные применения и воплотить их в жизнь.

О команде

Мы — центральная команда исследований и разработок в рамках более широкой программы Faculty по безопасности ИИ. Наша группа сосредоточена на фундаментальных и прикладных технических исследованиях безопасности ИИ, создавая строгие научные результаты — публикации, инструменты, технические отчёты и оценки — которые продвигают теорию, практику и понимание рисков ИИ, а также напрямую информируют работу передовых лабораторий ИИ, государственных агентств и национальных институтов безопасности.

Наши исследования охватывают фундаментальные исследования с использованием методов "чёрного ящика" и "белого ящика" для понимания и управления системами ИИ, а также создание и развитие оценок безопасности, которые лучше понимают и количественно оценивают риски в ИИ. Мы глубоко заботимся о механистическом понимании и научной строгости в измерении рисков в системах ИИ. Текущие направления исследований включают (но не ограничиваются) калибровку неопределённости, дрейф целей, смягчение дезинформации, векторы управления, измерение надёжных защит и науку об оценках.

Мы тесно сотрудничаем с более широкой командой Faculty по безопасности ИИ, группой с хорошо зарекомендовавшей себя историей в оценках возможностей и red-teaming для оценки рисков злоупотреблений в областях CBRN, кибербезопасности, социальных и психосоциальных вредов. Эта работа выполнялась для нескольких ведущих разработчиков передовых моделей и национальных институтов безопасности, и была отражена в карточках моделей и отчётах по безопасности от Anthropic, GDM, Meta и OpenAI.

О роли

В качестве старшего научного сотрудника в Faculty вы будете руководить разработкой передовых оценок безопасности для количественной оценки рисков ИИ в критически важных областях, таких как CBRN и кибербезопасность. Присоединившись к нашей команде исследований и разработок с высоким воздействием, вы будете вести оригинальные исследования, продвигающие методологию безопасности, одновременно сотрудничая с командами внедрения, создающими оценки и проводящими red-teaming для передовых лабораторий. Это возможность с высокой степенью самостоятельности заниматься техническими исследованиями безопасности ИИ, создавая научные результаты, формирующие будущее безопасного внедрения ИИ в реальном мире.

Чем вы будете заниматься

• Руководить разработкой новых оценок безопасности в высокоэффективных областях, таких как CBRN и кибербезопасность, для количественной оценки возникающих рисков.

• Выполнять оригинальные технические исследования в методах оценки безопасности ИИ, доводя идеи от концепции до публикации.

• Формировать повестку исследований и разработок, выявляя стратегические возможности для продвижения методологии оценки безопасности в Faculty и более широкой экосистеме.

• Вносить вклад в лидерство в области идей и глубокую техническую экспертизу в проекты по доставке клиентам, оценочные работы и red-teaming для передовых лабораторий.

• Представлять научное лидерство Faculty через активное внешнее взаимодействие с глобальным исследовательским сообществом, передовыми лабораториями и государственными заинтересованными сторонами.

Кого мы ищем

• Опыт полного ведения исследований — от выявления новых проблем до публикации — движимый научным любопытством и настойчивостью.

• Практический опыт в проектировании и создании оценок или бенчмарков ИИ, а также сильная способность рассуждать о конструктивной валидности и снижать влияние посторонних факторов.

• Экспертиза в red-teaming, адверсариальном тестировании, jailbreak, косвенном внедрении подсказок и оценке надёжности защит моделей.

• Сильные базовые навыки в дизайне экспериментов, статистическом анализе и количественной оценке неопределённости, включая байесовские методы.

• Глубокие знания языковых моделей, архитектур генеративного ИИ, методологий обучения и техник смягчения рисков безопасности.

• Уверенное владение Python в сочетании с инженерной дисциплиной, необходимой для создания надёжных и воспроизводимых исследований.

Желательные навыки

• Опыт в моделировании угроз и рисков.

• Опыт или знания в высокорисковых областях, таких как CBRN или кибербезопасность.

• История исследований ИИ с высоким воздействием, подтверждённая публикациями в ведущих изданиях или эквивалентными практическими достижениями.

Наш подход к найму

Мы стремимся создать лучшую команду, а не самую однородную. Мы знаем, что разнообразие людей порождает разнообразие мыслей, что укрепляет наш принцип поиска истины. И мы знаем из опыта, что разнообразные команды создают лучшую работу, релевантную миру, в котором мы живём. Нас объединяет глубокое интеллектуальное любопытство и желание использовать наши способности для измеримого положительного воздействия. Мы настоятельно призываем к подаче заявок людей всех происхождений, этнических групп, полов, религий и сексуальных ориентаций.

Если вы не чувствуете, что соответствуете всем требованиям, но вас вдохновляет эта роль и вы знаете, что обладаете ключевыми сильными сторонами, пожалуйста, не стесняйтесь подавать заявку — возможно, вы подходите для этой или других ролей. Мы открыты к обсуждению неполного рабочего времени.

Примечание об ИИ: мы рады, если вы используете его для исследований и подготовки к интервью, но, пожалуйста, не используйте ИИ для генерации ответов во время живых интервью. Мы также используем ИИ для ведения заметок (Metaview) на интервью, чтобы интервьюеры могли оставаться сосредоточенными (вы можете отказаться — просто сообщите нам), и каждое заявление рассматривается человеком, решение не принимается ИИ.