Red Teaming de Agentes, MCP e Infraestrutura
Por Wanderson Leandro de Oliveira
Red Teaming de Agentes, MCP e Infraestrutura leva o AI red teaming para as camadas onde sistemas autônomos realmente causam dano: o loop de decisão do próprio agente, os servidores MCP (Model Context Protocol) com que ele conversa, e a infraestrutura e APIs por baixo de tudo isso. O curso abre com arquitetura de IA agêntica — loops de planejamento e raciocínio, function/tool calling, excessive agency, confused deputy, goal hijacking, e como a memória de curto e longo prazo de um agente pode ser envenenada com fatos não validados — e coloca essa teoria em prática contra o desafio vulnerable-agent da DARE Vulnerable AI Suite, convencendo um assistente bancário a transferir fundos que jamais deveria movimentar, antes de estudar a correção real: checagem de ownership, limites de valor e confirmação humana no loop. O terço do meio vira para o MCP: sua arquitetura de clients, servers, tools, resources e prompts, as técnicas de tool poisoning e description injection que permitem que a description maliciosa de uma tool sequestre um cliente confiável, e o risco de supply chain em servidores MCP de terceiros — e então explora hands-on uma description envenenada para escapar de um sandbox via path traversal e ler um arquivo de segredos, novamente seguido da correção exata de validação. O terço final abre o zoom para a infraestrutura e as APIs que sustentam agentes e servidores MCP: por que broken access control, IDOR e SSRF continuam sendo os maiores riscos mesmo em sistemas nativos de IA, como segredos vazam para logs, e como painéis administrativos vão para produção sem autenticação nenhuma — demonstrado hands-on contra o desafio vulnerable-api-infra, onde uma única dependency de autenticação faltando causa cinco exposições diferentes. O curso fecha com a metodologia DARE-AIRT (Discover, Assess, Red Team, Engineer), um panorama de ferramentas de automação (Garak, PyRIT, Promptfoo), e um capstone no qual você escopa e executa uma avaliação completa nos cinco desafios da DARE Vulnerable AI Suite.
Conteúdo do curso
Arquitetura e Riscos de IA Agêntica
- 🔒 Planejamento, raciocínio e loops de tool calling text
- 🔒 Excessive agency, confused deputy e goal hijacking text
- 🔒 Memória do agente: curto prazo, longo prazo e envenenamento text
Explorando um Agente Vulnerável
- 🔒 Uso indevido de ferramentas e adulteração de parâmetros text
- 🔒 Hands-on: quebrando o desafio vulnerable-agent text
- 🔒 Corrigindo: ownership, limites e humano no loop text
Fundamentos e Superfície de Ataque do MCP
- 🔒 Arquitetura MCP: clients, servers, tools, resources text
- 🔒 Tool poisoning e description injection text
- 🔒 Risco de supply chain em servidores MCP de terceiros text
Explorando um Servidor MCP Vulnerável
- 🔒 Descobrindo uma description envenenada text
- 🔒 Hands-on: quebrando o desafio vulnerable-mcp text
- 🔒 Corrigindo: validando paths resolvidos text
Segurança de API e Infra para Sistemas de IA
- 🔒 Broken access control, IDOR e SSRF: ainda os maiores riscos text
- 🔒 Segredos em logs e endpoints de modelo desprotegidos text
- 🔒 Hands-on: quebrando o vulnerable-api-infra text
Metodologia, Automação e Capstone
- 🔒 O método DARE-AIRT: Discover, Assess, Red Team, Engineer text
- 🔒 Automatizando testes adversariais: Garak, PyRIT, Promptfoo text
- 🔒 Capstone: uma avaliação completa nos 5 desafios text