Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.
Команда Safeguards компании Anthropic ищет инженера Red Team, который поможет обеспечить безопасность наших развернутых систем и продуктов ИИ. В этой роли вы будете использовать антагонистический подход для выявления уязвимостей в нашей продуктовой экосистеме до того, как ими смогут воспользоваться злоумышленники. Ваша работа будет охватывать как технические уязвимости инфраструктуры наших продуктов, так и возникающие риски, связанные с продвинутыми возможностями ИИ.
Хотя вы будете применять лучшие практики из традиционных подходов к безопасности, акцент делается на более широких аспектах безопасности и новых видах злоупотреблений, уникальных для продвинутых систем ИИ и связанных с ними продуктов. Вы будете исследовать весь спектр потенциальных злоупотреблений: от скоординированных манипуляций аккаунтами и мошенничества с платежами до новых способов эксплуатации функций продукта. Вы будете моделировать сложных злоумышленников, которые комбинируют несколько векторов атак для достижения своих целей.
Требования к образованию: Мы требуем как минимум степень бакалавра в смежной области или эквивалентный опыт. Политика гибридного формата работы в зависимости от местоположения: в настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.
Спонсорство виз: Мы спонсируем визы! Однако мы не можем гарантировать успешное спонсорство виз для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и у нас есть иммиграционный юрист, который помогает в этом.
Мы считаем, что исследования ИИ с наибольшим воздействием — это большие научные проекты. В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, заслуживающего доверия ИИ — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными усилиями в области компьютерных наук. Мы — чрезвычайно коллективная группа и часто проводим исследовательские обсуждения, чтобы гарантировать, что в любой момент времени мы занимаемся работой с наибольшим воздействием. Поэтому мы очень ценим навыки коммуникации.
Умножим шансы на каждом этапе поиска и поможем получить выгодный оффер
Узнать больше
