О компании Anthropic
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.
О роли
Anthropic стремится разрабатывать ИИ-ассистентов, которые являются полезными, безвредными и честными. По мере роста использования наших ИИ-сервисов нам необходимо гарантировать, что ими не злоупотребляют. Команда Safeguards находится на переднем крае защиты наших пользователей от рисков мощных ИИ, а также от этических, технических и социальных рисков, связанных с использованием генеративного ИИ. Команда Safeguards в Anthropic создает защитные механизмы для новых функций ИИ, разработанных исследовательскими командами, и защищает новые продукты и интерфейсы, разработанные нашими продуктовыми командами. В качестве менеджера продукта в команде Safeguards в Anthropic вы будете отвечать за генерацию идей, проектирование, разработку и внедрение систем Safeguards и соответствующего пользовательского опыта продукта, чтобы обеспечить безопасное продвижение передовых моделей к пользователям на различных облачных платформах. Вы будете тесно сотрудничать с нашими исследовательскими и продуктовыми командами для разработки методов обнаружения, оценок, вмешательств и инструментов для измерения и снижения рисков при развертывании и использовании.
Обязанности:
- Определять, как встроить безопасность на этапе проектирования и использовать защитные механизмы на последующих этапах для передовых моделей Anthropic, продуктов ИИ, клиентов на различных платформах — Claude.ai, 1P API, внешних облачных провайдерах.
- Умение писать оценки безопасности и коммуницировать по вопросам безопасности с внешними сторонами.
- Добиваться результата через безжалостную приоритизацию, четко определяя проблемы, варианты решений, ясность как в бизнес-, так и в технических компромиссах, а также четкие требования к MVP и идеальному состоянию.
- Согласовывать и сотрудничать с командами политики, исполнения, исследований, инженерии и другими заинтересованными сторонами.
- Понимать ландшафт и экосистему ИИ для планирования мер по снижению рисков развертывания все более мощных моделей и противодействия целенаправленным злоумышленникам.
- Возглавлять разработку метрик для понимания области, производительности, слепых зон, чтобы помочь в планировании будущих проектов.
Вы можете подойти, если у вас есть:
- Более 5 лет опыта в управлении продуктами с акцентом на быстрое понимание проблем, построение дорожных карт с достижимым прогрессом, способность вникать в детали данных, обнаружения и вмешательств, инфраструктуры и инструментов, а также оценок.
- Способность принимать технические решения о компромиссах; желательно с опытом работы с экспертами по политике, исследователями ИИ/МО и командами программной инженерии для проектирования и создания передовых систем безопасности.
- Глубокое понимание пользователей, как используются наши продукты, их опасений по поводу Safeguards и как мы предоставляем лучшие решения.
- Доказанная способность строить стратегию продукта и инженерии для нескольких межфункциональных команд в быстро меняющейся области.
- Опыт проектирования и создания метрик для оценки рисков, производительности системы, влияния на пользователей и принятия четких компромиссов.
- Очень высокая способность ориентироваться и приоритизировать в условиях быстро меняющихся спецификаций продукта, а также гибко работать в разных областях для внесения ясности и выполнения задач.
- Доказательства умения принимать решения и проявлять суждение в неоднозначных ситуациях.
- Опыт планирования, создания, запуска и измерения новых продуктов/систем в условиях «с нуля».
- Способность ясно излагать сложные технические концепции для нетехнической аудитории в письменной и устной форме.
- Креативное мышление о рисках и преимуществах новых технологий, выходящее за рамки прошлых чек-листов и методик.
Годовой диапазон компенсации для этой роли указан ниже.
Годовая зарплата:
305 000 - 385 000 долларов США
Логистика
- Требования к образованию: Мы требуем как минимум степень бакалавра в соответствующей области или эквивалентный опыт.
- Политика гибридной работы с учетом местоположения: В настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.
- Спонсорство визы: Мы спонсируем визы!
Мы призываем вас подавать заявку, даже если вы не уверены, что соответствуете всем требованиям. Не все сильные кандидаты соответствуют каждому из перечисленных требований. Исследования показывают, что люди из недостаточно представленных групп чаще испытывают синдром самозванца и сомневаются в силе своей кандидатуры, поэтому мы настоятельно рекомендуем не исключать себя преждевременно и подавать заявку, если вас интересует эта работа.
Чем мы отличаемся
Мы считаем, что исследования ИИ с наибольшим воздействием будут масштабными научными проектами. В Anthropic мы работаем как единая сплоченная команда над всего несколькими крупномасштабными исследовательскими инициативами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, заслуживающего доверия ИИ — вместо работы над меньшими и более специфическими задачами.
Самый простой способ понять наши направления исследований — это прочитать наши последние исследования.
