AI/LLM Security Researcher

SpaceAI — платформа для защиты, контроля и безопасного внедрения LLM-моделей и AI-агентов в корпоративную инфраструктуру.

Мы создаём инфраструктурный security-layer между AI-системами и корпоративным контуром. Через SpaceAI проходят запросы к моделям, tool calls и действия AI-агентов: платформа контролирует доступ, применяет security-политики, анализирует риски, защищает данные, отслеживает поведение AI-систем и формирует полный аудиторский след.

Ищем AI/LLM Security Researcher / MLSecOps, который будет исследовать атаки и уязвимости AI-систем, воспроизводить их, разрабатывать механизмы защиты и встраивать их в production-контур SpaceAI.

Позиция находится на пересечении AI Security, LLM Security, Adversarial ML, AI Red Teaming и MLSecOps.

Чем предстоит заниматься

• Исследовать угрозы и уязвимости LLM, AI-агентов, RAG-систем, MCP-серверов и multi-agent systems.

• Проводить threat modeling, AI Red Teaming и adversarial testing.

• Исследовать и воспроизводить prompt injection, indirect prompt injection, jailbreak, data exfiltration, tool abuse, excessive agency, agent hijacking, poisoned context и supply-chain attacks.

• Создавать PoC атак, attack suites и автоматизированные security-тесты.

• Разрабатывать методы обнаружения и mitigation выявленных угроз.

• Создавать guardrails, security classifiers, DLP/PII-фильтры и механизмы обнаружения секретов.

• Разрабатывать risk-scoring для prompts, tool calls и действий AI-агентов.

• Исследовать аномальное и потенциально опасное поведение агентов в runtime.

• Создавать AI Security evals, adversarial datasets и benchmarks.

• Оценивать защиту по ASR, precision/recall, FPR/FNR, robustness и другим security-метрикам.

• Встраивать security-проверки в lifecycle AI-систем:
  development → evaluation → deployment → runtime → monitoring.

• Разрабатывать security gates для CI/CD и ML/LLM pipelines.

• Анализировать безопасность моделей, datasets, prompts, checkpoints, dependencies и AI supply chain.

• Исследовать безопасность MCP, A2A, tool calling и взаимодействия агентов с корпоративными системами.

• Анализировать production logs и traces, находить новые attack patterns и превращать их в regression tests.

• Участвовать в развитии AI Security, Risk Analyzer, AI Registry, Explainability Engine и других компонентов SpaceAI.

• Следить за исследованиями в AI/ML Security и превращать research в работающие механизмы продукта.

Что мы ожидаем

• 5+ лет коммерческого инженерного опыта в ML/AI, ML Engineering, MLOps/MLSecOps, Applied Research или Cybersecurity.

• 2+ года практической работы с LLM / Generative AI / AI-агентами либо сопоставимый подтверждаемый research-опыт.

• Практический опыт в AI/ML Security, AI Red Teaming, Adversarial ML, ML Security или security evaluation AI-систем.

• Опыт вывода хотя бы одной ML/LLM-системы или security-компонента в production.

​​При этом сильный профиль с меньшим количеством лет, но глубоким опытом именно в AI Security / Adversarial ML, также рассматриваем.

Технические компетенции

• Уверенное владение Python для AI/ML, security и research-задач.

• Глубокое понимание работы современных LLM и ML-систем: Transformers, tokenization, embeddings, inference, fine-tuning, context management, RAG.

• Понимание архитектуры AI-агентов: tool calling, memory, planning, agent loops, orchestration, multi-agent interaction.

• Знание attack surface LLM и AI-агентов и основных подходов к mitigation.

• Практический опыт хотя бы в одном из направлений:

  • LLM / AI Security;

  • AI Red Teaming;

  • Adversarial ML;

  • ML Security;

  • MLSecOps;

  • security evaluation LLM/AI systems.

• Практический опыт с PyTorch, Transformers, Hugging Face или сопоставимым ML-стеком.

• Понимание ML/LLM lifecycle: datasets, training/fine-tuning, evaluation, registry, deployment и monitoring.

• Умение работать с ASR, precision, recall, FPR/FNR, robustness и корректно проектировать security-evaluation.

• Понимание threat modeling, secure-by-design и defense-in-depth.

• Опыт работы с Linux, Docker, Git, API и CI/CD.

• Умение читать scientific papers, воспроизводить эксперименты и критически оценивать заявленные результаты.

• Английский B2+ для работы с исследованиями, документацией и международным technical community.

Ключевая компетенция — способность самостоятельно пройти цикл: attack hypothesis → PoC → dataset/evaluation → mitigation → повторное тестирование → production integration → monitoring.

Будет преимуществом

• Практический опыт LLM/AI Red Teaming.

• Опыт в роли ML Engineer, MLOps, MLSecOps или AI Security Engineer.

• Исследования adversarial examples, poisoning, backdoors, model extraction или model evasion.

• Собственные AI Security evals, benchmarks, datasets или attack frameworks.

• Опыт fine-tuning, LoRA, PEFT, SFT.

• Работа с open-source LLM: Llama, Qwen, Mistral и др.

• Опыт с vLLM, TGI или другой inference-инфраструктурой.

• Работа с MLflow, Weights & Biases, Kubeflow или аналогичным ML lifecycle-стеком.

• Практический опыт с MCP, A2A и agent frameworks.

• Понимание IAM, RBAC/ABAC, Zero Trust, DLP и application security.

• Опыт SIEM/SOC, security monitoring или anomaly detection.

• Участие в CTF, bug bounty или offensive security.

• Знание OWASP GenAI/LLM Security, MITRE ATLAS, NIST AI RMF.

• Публичные research-проекты, GitHub, статьи, доклады или публикации по AI/ML Security.

Что важно для этой роли

Мы ищем специалиста, который умеет работать одновременно как researcher и engineer:

• сформулировать угрозу;

• построить threat/attack model;

• воспроизвести атаку;

• определить корректную methodology и метрики;

• разработать mitigation;

• экспериментально доказать его эффективность;

• встроить механизм защиты в production;

• поставить monitoring;

• превратить найденный класс атаки в regression test.

Нам нужен человек, способный не просто сказать: «модель можно jailbreak'нуть», а ответить: каким образом, насколько стабильно, при каких условиях, как это измерить и какой контроль реально снижает риск.

Что предлагаем

• Работу над полноценной AI Security-платформой, а не отдельной обвязкой вокруг LLM.

• Реальные enterprise-сценарии эксплуатации LLM и AI-агентов.

• Возможность совмещать research и product engineering.

• Возможность влиять на архитектуру и technical roadmap.

• Техническое лидерство и ownership над отдельными AI Security / MLSecOps-направлениями.

• Возможность создавать собственные datasets, benchmarks, security-evals и методологии.

• Возможность публиковать исследования и выступать на профильных мероприятиях.

• Прямую коммуникацию с основателями и короткий цикл принятия решений.

• Удалённый или гибридный формат.

• Возможность получить долю в проекте и дополнительный опцион, привязанный к результатам.

Формат работы

• Частичная / полная занятость.

• Удалённо или гибридно.

• Уровень: Strong Middle / Senior / Lead.

SpaceAI — создаём инфраструктуру, в которой AI может действовать автономно, оставаясь контролируемым, наблюдаемым и безопасным.