Инженер-исследователь, Правовое государство

Сан-Франциско, Калифорния | Нью-Йорк, Нью-Йорк

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.

О роли

Все более мощные системы ИИ будут бросать вызов общественным функциям на всех уровнях. Anthropic провела новаторскую работу по изучению экономических последствий ИИ; команда Правового государства применяет аналогичный подход к другому вопросу: как ИИ повлияет на наши конституционные демократические институты? Мы исследуем, как ИИ может оказывать давление на демократию и верховенство закона, и ищем способы защиты демократических свобод как в краткосрочной, так и в долгосрочной перспективе, используя стратегии, направленные как на технологии, так и на политику.

В качестве инженера-исследователя в команде Правового государства вы будете проводить технические и социотехнические исследования на пересечении ИИ и демократических институтов. Ваша работа будет охватывать оценку безопасности, улучшение моделей, институциональный анализ и разработку новых приложений ИИ для поддержки гражданской жизни и эффективного, подотчетного управления. Эта работа будет напрямую способствовать нашим исследовательским публикациям, политической деятельности, системам безопасности и продуктам.

Обязанности:

• Проектировать и проводить оценки безопасности ИИ с акцентом на юридическое соответствие, а также выполнять техническую работу (включая дообучение) для улучшения целевых аспектов производительности модели
• Использовать ИИ для анализа институциональных уязвимостей, созданных или усугубленных самим ИИ, и разрабатывать сопутствующие социотехнические меры смягчения
• Разрабатывать новые приложения ИИ для укрепления и обогащения демократических процессов
• Проводить строгие социотехнические исследования того, как информация, предоставляемая ИИ, может поддерживать информированное обсуждение и дебаты
• Тесно сотрудничать с исследователями, экспертами по политике и праву, а также с другими межфункциональными командами Anthropic для продвижения нашей миссии безопасности
• Переводить исследовательские выводы в практические рекомендации как для продуктов, так и для политики

Вы можете подойти на эту роль, если вы:

• Обладаете глубокими знаниями в области ИИ вместе с существенными знаниями в области государственного управления, права, политологии или государственной политики
• Имеете продвинутые навыки в глубоком обучении, а также способности в области науки о данных, дизайна механизмов, govtech, технологий для обсуждений или смежных областях
• Глубоко понимаете экспериментальный дизайн, анализ данных и инференциальную статистику
• Имеете не менее пяти лет опыта работы в академической среде, промышленности или государственном секторе
• Комфортно чувствуете себя в условиях неопределенности, присущей новым исследованиям, включая ситуации, когда сама цель трудно определить
• Обладаете сильными техническими навыками в социотехнических условиях: внимательно учитываете человеческие факторы, взаимодействие систем ИИ с группами людей и поведение человека
• Вас вдохновляет работа на пересечении технических исследований и вопросов демократии и институционального дизайна

Сильные кандидаты также могут иметь опыт в:

• Проектировании и проведении оценок или экспериментов по дообучению больших языковых моделей
• Анализе данных в крупном масштабе
• Дизайне пользовательского опыта и интерфейсов с целью сделать сложные инструменты интуитивно понятными для нетехнических пользователей
• Инжиниринге с учетом вопросов конфиденциальности
• Исследованиях, связанных с технологиями для обсуждений, гражданскими технологиями или общественными последствиями ИИ
• Работе с правительственными органами, судами, законодательными органами или институтами государственной политики

Годовой диапазон компенсации для этой роли указан ниже.

Годовая зарплата:

320 000 - 485 000 долларов США

Логистика

• Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта
• Спонсорство визы: Мы спонсируем визы!

Мы призываем вас подавать заявку, даже если вы не уверены, что соответствуете всем требованиям.

Ваша безопасность для нас важна. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые будут представляться как работающие от имени Anthropic.