Инженер по исследованию конфиденциальности, меры защиты

Сан-Франциско, Калифорния

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.

О роли

Мы ищем исследователей, которые помогут снизить риски, связанные с созданием систем ИИ. Один из таких рисков — потенциальное взаимодействие моделей с приватными данными пользователей. В этой роли вы будете разрабатывать и внедрять методы сохранения конфиденциальности, проводить аудит наших текущих методов и определять направление того, как Anthropic в целом будет работать с конфиденциальностью.

Обязанности:

• Возглавлять анализ конфиденциальности передовых моделей, тщательно проверяя использование данных и обеспечивая безопасность на всех этапах процесса
• Разрабатывать алгоритмы и методы обучения с приоритетом на конфиденциальность
• Разрабатывать методы оценки и аудита для измерения конфиденциальности алгоритмов обучения
• Работать с небольшой опытной командой инженеров и исследователей для реализации перспективной политики конфиденциальности
• Выступать в интересах наших пользователей, обеспечивая ответственное обращение со всеми данными

Вы можете подойти на эту роль, если у вас есть:

• Опыт работы с методами машинного обучения, сохраняющими конфиденциальность
• Опыт выпуска продуктов и функций в быстро меняющейся среде
• Сильные навыки программирования на Python и знакомство с ML-фреймворками, такими как PyTorch или JAX
• Глубокое понимание больших языковых моделей, их работы и методов обучения
• Опыт работы с методами сохранения конфиденциальности (например, дифференциальная конфиденциальность и отличие от k-анонимности, l-разнообразия и t-близости)
• Опыт поддержки инженерных команд стартапов с быстрым темпом работы
• Доказанный успех в прояснении и взятии ответственности за неоднозначные технические задачи
• Подтвержденная способность руководить межфункциональными инициативами по безопасности и ориентироваться в сложной организационной динамике

Сильные кандидаты также могут иметь:

• Публикации по теме сохранения конфиденциальности в машинном обучении на ведущих академических площадках
• Опыт обучения больших языковых моделей (например, сбор обучающих наборов данных, предварительное обучение моделей, дообучение моделей с помощью тонкой настройки и обучения с подкреплением, проведение оценок обученных моделей)
• Опыт разработки инструментов для поддержки сохранения конфиденциальности в машинном обучении (например, дифференциальная конфиденциальность в TF-Privacy или Opacus)

Годовой диапазон компенсации для этой роли указан ниже.

Для ролей в продажах указанный диапазон — это диапазон целевого дохода ("OTE"), что означает, что он включает как целевые комиссионные/бонусы за продажи, так и годовую базовую зарплату по роли.

Годовая зарплата:

320 000 - 485 000 долларов США

Логистика

Требования к образованию: Мы требуем как минимум степень бакалавра в смежной области или эквивалентный опыт. Политика гибридной работы в зависимости от местоположения: В настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.

Спонсорство визы: Мы спонсируем визы! Однако мы не всегда можем успешно спонсировать визы для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и у нас есть иммиграционный юрист, который помогает в этом.

Мы призываем вас подавать заявку, даже если вы не уверены, что соответствуете всем требованиям. Не все сильные кандидаты соответствуют каждому из перечисленных требований. Исследования показывают, что люди из недостаточно представленных групп чаще испытывают синдром самозванца и сомневаются в силе своей кандидатуры, поэтому мы настоятельно рекомендуем не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, что мы создаем, имеют огромные социальные и этические последствия. Это делает представительство еще более важным, и мы стремимся включать разнообразные точки зрения в нашу команду.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы сотрудничаем с проверенными рекрутинговыми агентствами, которые представляются как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут просить деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы сомневаетесь в каком-либо сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую для подтверждения открытых вакансий.

Чем мы отличаемся

Мы считаем, что исследования ИИ с наибольшим воздействием — это большие научные проекты. В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими инициативами. Мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого и надежного ИИ — больше, чем работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными направлениями компьютерных наук. Мы — чрезвычайно коллективная группа и часто проводим исследовательские обсуждения, чтобы гарантировать, что занимаемся наиболее значимыми задачами в любой момент времени. Поэтому мы очень ценим навыки коммуникации.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, интерпретируемость на основе цепей, мультимодальные нейроны, законы масштабирования, ИИ и вычисления, конкретные проблемы безопасности ИИ и обучение на основе предпочтений человека.

Присоединяйтесь к нам!

Anthropic — это корпорация общественной пользы с главным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную оплату и льготы, опциональное сопоставление пожертвований акциями, щедрый отпуск и декретный отпуск, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявок.