Инженер инфраструктуры машинного обучения, исследование мер безопасности

Сан-Франциско, Калифорния | Нью-Йорк, Нью-Йорк

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.

О роли

Команда Safeguards в Anthropic строит системы, которые обнаруживают и смягчают злоупотребления нашими моделями ИИ — от отдельных нарушений политики до сложных скоординированных атак. Растущая часть этой работы зависит от легковесных методов обнаружения, обученных на внутренних данных моделей, которые позволяют нам дешево и масштабно выявлять вредоносное поведение. Эта работа напрямую связана с обязательствами Anthropic по Политике ответственного масштабирования.

Мы ищем инженера, который возьмет на себя ответственность за инфраструктуру, поддерживающую эти исследования. Это инструменты, на которые опираются наши исследователи для проведения экспериментов, обучения методов обнаружения и выбора обнаружений для запуска. Эта инфраструктура находится на стыке исследований и производства: исследователи зависят от нее для быстрой итерации, а наши системы обнаружения — для надежных и корректных результатов по мере изменения моделей.

Запуск рабочих нагрузок машинного обучения в нашем масштабе часто требует решения новых системных задач. Вы будете выявлять эти задачи и создавать абстракции, конвейеры и инструменты, которые сохраняют быстрый цикл исследований, несмотря на меняющиеся требования. Сильные кандидаты имеют опыт решения масштабных системных и данных задач и стремятся развивать глубокие знания в области машинного обучения.

Основные обязанности

• Создавать и масштабировать инфраструктуру и конвейеры данных для исследований машинного обучения в Safeguards
• Отвечать за рабочие процессы обучения, оценки и оценки, которые используют исследователи, с акцентом на сокращение времени от идеи до результата
• Проектировать инструменты и интерфейсы, включая библиотеки и командные утилиты, которые исследователи могут использовать напрямую без необходимости понимать внутренние системы
• Внедрять проверки корректности и здравого смысла в стек, чтобы результаты оставались надежными по мере эволюции моделей и рабочих нагрузок
• Переводить наиболее ценные исследовательские рабочие процессы из экспериментов в надежные производственные задачи
• Улучшать пропускную способность, стоимость и надежность масштабных рабочих нагрузок по инференсу и оценке
• Тесно сотрудничать с исследователями и инженерами Safeguards для понимания их рабочих процессов, прогнозирования изменений их потребностей и проектирования решений заранее

Минимальные квалификации

• Прочные основы программной инженерии и практические навыки программирования, владение Python
• Опыт создания и эксплуатации систем с интенсивной обработкой данных или распределенных систем в производстве
• Опыт создания инструментов или инфраструктуры, которые используются другими инженерами или исследователями как зависимость
• Уверенность в работе на всем пути от исследований до развертывания — от экспериментальных исследований до производственных систем
• Умение отлаживать проблемы с производительностью и корректностью в незнакомом стеке
• Сильные навыки письменного и устного общения, а также совместный подход к техническим решениям

Желательные квалификации

• Опыт работы с высокопроизводительными масштабными системами машинного обучения
• Знание языкового моделирования и трансформеров, включая работу с внутренними данными моделей
• Опыт работы с внутренними механизмами фреймворков машинного обучения, программированием GPU или ускорителей, оптимизацией инференса
• Опыт создания систем отслеживания экспериментов, кэширования или средств оценки для исследовательских команд
• Опыт работы с пробами, интерпретируемостью или разработкой классификаторов
• Интерес к рискам злоупотребления системами ИИ и желание работать над их снижением

Годовой диапазон компенсации для этой роли указан ниже.

Для ролей в продажах указанный диапазон — это диапазон целевого дохода ("OTE"), что означает, что он включает как целевые комиссионные/бонусы по продажам, так и годовую базовую зарплату.

Годовая зарплата:

350 000 - 500 000 долларов США

Логистика

• Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта
• Требуемая область обучения: область, релевантная роли, подтвержденная курсами, обучением или профессиональным опытом
• Минимальный опыт работы: количество лет опыта будет соответствовать внутренним требованиям уровня должности
• Политика гибридной работы в зависимости от местоположения: в настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.
• Спонсорство визы: Мы спонсируем визы! Однако мы не всегда можем успешно спонсировать визу для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия для получения визы и сотрудничаем с иммиграционным юристом для помощи в этом.

Мы призываем вас подавать заявку, даже если вы не уверены, что соответствуете всем требованиям. Не все сильные кандидаты соответствуют каждому из перечисленных требований. Исследования показывают, что люди из недостаточно представленных групп чаще испытывают синдром самозванца и сомневаются в своих силах, поэтому мы настоятельно рекомендуем не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, что мы создаем, имеют огромные социальные и этические последствия. Это делает представительство еще более важным, и мы стремимся включать разнообразные точки зрения в нашу команду.

Ваша безопасность важна для нас.

Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы сотрудничаем с проверенными рекрутинговыми агентствами, которые представляются как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут просить деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы сомневаетесь в сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую для подтверждения открытых вакансий.

Чем мы отличаемся

Мы считаем, что исследования ИИ с наибольшим воздействием — это крупная наука. В Anthropic мы работаем как единая сплоченная команда над несколькими масштабными исследовательскими проектами. Мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого и надежного ИИ — больше, чем работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными направлениями компьютерных наук. Мы — чрезвычайно совместная группа и регулярно проводим исследовательские обсуждения, чтобы гарантировать, что занимаемся наиболее значимой работой в любой момент времени. Поэтому мы очень ценим навыки коммуникации.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, интерпретируемость на основе цепей, мультимодальные нейроны, законы масштабирования, ИИ и вычисления, конкретные проблемы безопасности ИИ и обучение на основе человеческих предпочтений.

Присоединяйтесь к нам!

Anthropic — это корпорация общественной пользы с головным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную оплату и льготы, опциональное сопоставление пожертвований в акции, щедрый отпуск и декретный отпуск, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.