Fundamentos de AI Red Teaming
Por Wanderson Leandro de Oliveira
Fundamentos de AI Red Teaming é a porta de entrada para o teste ofensivo de segurança em sistemas de IA — não é uma coleção de exploits, mas o modelo mental necessário antes que um único exploit faça sentido. Você vai aprender o que realmente acontece dentro de um modelo de linguagem grande (tokens, janela de contexto, amostragem), por que a fronteira entre "instrução" e "dado" é a causa raiz de quase todo ataque de prompt injection, e como mapear a superfície de ataque real ao redor de uma aplicação de IA moderna: o chatbot em si, o pipeline de RAG, os agentes e ferramentas que ele chama, os servidores MCP com que ele conversa, o banco vetorial por trás e a infraestrutura debaixo de tudo isso. A partir daí, o curso ensina modelagem formal de ameaças com STRIDE, attack trees e diagramas de fluxo de dados, e situa dois frameworks que você vai usar constantemente nessa área — o OWASP Top 10 for LLM Applications e o MITRE ATLAS. Toda técnica é enquadrada em torno de autorização: escopo por escrito, regras de engajamento e divulgação responsável, exatamente como em pentest tradicional, mas adaptado aos modos de falha únicos de sistemas de IA. Os módulos finais montam seu laboratório local (Docker e Ollama) e apresentam o DARE Vulnerable AI Suite — o alvo prático que você vai usar nos próximos cursos — e fecham escrevendo seu primeiro achado de vulnerabilidade e escopando uma avaliação simulada completa de um chatbot corporativo. Ao final, você vai pensar como um AI red teamer mesmo antes de rodar seu primeiro ataque.
Conteúdo do curso
Bem-vindo ao AI Red Teaming
- 🔒 O que é (e o que não é) AI red teaming text
- 🔒 Escopo, regras de engajamento e autorização text
- 🔒 Divulgação responsável e limites éticos text
Como LLMs realmente funcionam
- 🔒 Tokens, embeddings e a janela de contexto text
- 🔒 Prompts de sistema, desenvolvedor e usuário text
- 🔒 Temperature, amostragem e não determinismo text
Onde vivem as fronteiras de confiança
- 🔒 Instrução vs. dado: a confusão que quebra tudo text
- 🔒 Mapeando a arquitetura ao redor de um chatbot text
- 🔒 O checklist de superfície de ataque text
Modelagem de ameaças para sistemas de IA
- 🔒 STRIDE e attack trees para apps de LLM text
- 🔒 Diagramas de fluxo de dados e fronteiras de confiança text
- 🔒 Panorama do OWASP LLM Top 10 e do MITRE ATLAS text
Montando seu laboratório
- 🔒 Docker e Ollama: o básico para AI red teaming text
- 🔒 Apresentando o DARE Vulnerable AI Suite text
- 🔒 Sua primeira avaliação com escopo definido text
Escrevendo seu primeiro achado
- 🔒 Anatomia de um achado de vulnerabilidade text
- 🔒 Severidade, impacto e reprodutibilidade text
- 🔒 Capstone: escopando a avaliação de um chatbot corporativo text