AI Security Researcher (AI Red Teaming)

О проекте:

Международный проект в области AI Security, связанный с разработкой сред, которые помогают LLM-моделям проходить обучение с подкреплением для задач, связанных с кибербезопасностью.

Эти среды будут содержать задания в различных областях кибербезопасности (пентестинг, реагирование на инциденты, эксплуатация, вредоносное ПО и т.д.), при этом цель — создавать достаточно сложные задачи, чтобы модель допускала ошибки, но которые при этом остаются решаемыми для профессиональных специалистов.

Важно: это не классическая позиция Pentester или Red Team Engineer. Основная задача специалиста — создавать сложные, но реалистичные и проверяемые security-сценарии, в которых LLM-модели совершают ошибки именно из-за недостатков в рассуждении (reasoning), а не из-за неоднозначных инструкций или ограничений среды.

Чем предстоит заниматься:

• Проектировать security-сценарии для оценки и обучения LLM-моделей
• Создавать environments с использованием GitHub, Slack и других инструментов, встречающихся в реальной разработке
• Разрабатывать задачи, требующие сложного многошагового reasoning
• Моделировать реальные offensive security-сценарии (например, supply chain attacks, malicious pull requests, exploitation через GitHub Actions и другие современные техники)
• Проверять разработанные сценарии на нескольких frontier-моделях и анализировать причины их ошибок
• Формулировать ожидаемое поведение модели и описывать, почему конкретная ошибка считается reasoning failure
• Автоматизировать создание и проверку задач с использованием Python и других инструментов

Что мы ожидаем:

• 5+ лет практического опыта в Offensive Security, Application Security или Web Penetration Testing
• Глубокое понимание современных техник атак и поверхности атаки веб-приложений, API, GitHub, CI/CD и связанных экосистем
• Практический опыт проведения penetration testing и исследования безопасности приложений
• Опыт разработки на Python и/или JavaScript
• Навыки статического и динамического анализа кода (Python, JavaScript, Java)
• Умение самостоятельно исследовать новые направления, проектировать сложные сценарии и объяснять результаты своей работы
• Свободный английский язык (Upper-Intermediate / B2+)
• Практический опыт работы с современными LLM-моделями
• Понимание особенностей их работы, ограничений и типичных failure modes
• Интерес к AI Security и исследованию поведения LLM

Будет большим плюсом:

• Практический опыт AI Red Teaming или LLM Security
• Опыт работы с Agentic AI, AI Agents или Model Evaluation
• Опыт исследований безопасности GitHub Actions, CI/CD, Supply Chain Security
• Сертификаты OSWE, eWPTXv2, OWEE, OSWA или аналогичные
• Публикации, write-ups, участие в Bug Bounty, HackTheBox, TryHackMe, Pwn2Own или других исследовательских проектах

Самая ценная компетенция здесь — не умение эксплуатировать очередную XSS, а способность придумать новый, не похожий на существующие сценарий, который сломает сильную модель.

Здесь важны исследовательское мышление, креативность и способность придумывать новые сценарии атак, а не воспроизводить уже известные техники.

Условия:

• B2B-контракт (с ИП)
• Оплата в долларах США
• Part-time: ориентировочно 5–20 часов в неделю
• Минимальный ожидаемый объем — 1–2 задачи в неделю
• На выполнение одной задачи обычно требуется от 5 до 10 часов, в зависимости от сложности
• Локация — строго вне РФ (либо уже находиться за пределами РФ, либо быть готовым к самостоятельной релокации)
• Старт — ASAP