О компании Anthropic
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.
О роли
Мы ищем инженера по инфраструктуре машинного обучения для присоединения к нашей организации Safeguards, где вы будете создавать и масштабировать критически важную инфраструктуру, которая обеспечивает работу наших систем безопасности ИИ. Вы будете работать на пересечении машинного обучения, масштабируемых распределённых систем и безопасности ИИ, разрабатывая платформы и инструменты, которые позволяют нашим системам безопасности работать надежно в масштабах.
В составе команды Safeguards вы будете проектировать и внедрять инфраструктуру машинного обучения, которая обеспечивает безопасность Claude. Ваша работа напрямую будет способствовать тому, чтобы системы ИИ становились более надежными и соответствовали человеческим ценностям, гарантируя безопасную работу наших моделей по мере их развития.
Обязанности:
- Проектировать и создавать масштабируемую инфраструктуру машинного обучения для поддержки в реальном времени и пакетной оценки классификаторов и безопасности в нашей экосистеме моделей
- Разрабатывать инструменты мониторинга и наблюдаемости для отслеживания производительности моделей, качества данных и состояния системы для критически важных с точки зрения безопасности приложений
- Сотрудничать с исследовательскими командами для внедрения результатов исследований безопасности в производство, переводя экспериментальные методы безопасности в надежные и масштабируемые системы
- Оптимизировать задержки и пропускную способность при выводе для оценки безопасности в реальном времени, сохраняя высокие стандарты надежности
- Внедрять автоматизированное тестирование, развертывание и системы отката для моделей машинного обучения в производственных приложениях безопасности
- Работать в партнерстве с командами Safeguards, Security и Alignment для понимания требований и предоставления инфраструктуры, соответствующей потребностям безопасности и производства
- Вносить вклад в разработку внутренних инструментов и фреймворков, ускоряющих исследования и внедрение безопасности
Вы можете подойти на эту роль, если вы:
- Имеете более 5 лет опыта создания производственной инфраструктуры машинного обучения, желательно в критически важных с точки зрения безопасности областях, таких как обнаружение мошенничества, модерация контента или оценка рисков
- Владеете Python и имеете опыт работы с ML-фреймворками, такими как PyTorch, TensorFlow или JAX
- Имеете практический опыт работы с облачными платформами (AWS, GCP) и оркестрацией контейнеров (Kubernetes)
- Понимаете принципы распределённых систем и создавали системы, способные обрабатывать высокопроизводительные нагрузки с низкой задержкой
- Имеете опыт работы с инструментами обработки данных и построения надежных конвейеров данных (например, Spark, Airflow, потоковые системы)
- Ориентированы на результат, с акцентом на надежность и влияние в системах, критичных с точки зрения безопасности
- Любите сотрудничать с исследователями и переводить передовые исследования в производственные системы
- Глубоко заботитесь о безопасности ИИ и общественных последствиях своей работы
Преимуществом будет опыт в:
- Работе с крупными языковыми моделями и современными архитектурами трансформеров
- Внедрении фреймворков A/B тестирования и инфраструктуры экспериментов для систем машинного обучения
- Разработке систем мониторинга и оповещения о производительности моделей и сдвиге данных
- Создании автоматизированных систем разметки и рабочих процессов с участием человека (human-in-the-loop)
- Опыт в областях доверия и безопасности, предотвращения мошенничества или модерации контента
- Знания методов машинного обучения с сохранением конфиденциальности и требований соответствия
- Участии в проектах с открытым исходным кодом по инфраструктуре машинного обучения
Логистика
Требования к образованию: Мы требуем как минимум степень бакалавра в соответствующей области или эквивалентный опыт.
Политика гибридного формата работы по месту расположения: В настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако для некоторых ролей может требоваться больше времени в офисе.
Спонсорство виз: Мы спонсируем визы! Однако мы не всегда можем успешно спонсировать визы для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и у нас есть иммиграционный юрист, который помогает в этом.
Годовой диапазон компенсации для этой роли указан ниже.
Годовая зарплата: 320 000 - 405 000 долларов США
