Próximas Turmas

  • Frequência: Quinta
  • Horário: 18:00/22:00h
  • Término Previsto: 01/10/2026
  • Modalidade: Presencial/Online (ao vivo)
  • Professor: Sergio Mendes
Investimento:

R$183,69

Quero mais informações

O que você vai aprender nesse curso

Capacitar desenvolvedores a identificar riscos e aplicar boas práticas de segurança em aplicações que utilizam Inteligência Artificial Generativa, modelos de linguagem e agentes inteligentes. O curso aborda proteção de dados, prevenção de manipulação de prompts, controle de acesso e execução segura de ferramentas integradas a APIs e bancos de dados.

Com abordagem prática e demonstrações em um projeto previamente estruturado, o aluno aprenderá a reconhecer vulnerabilidades, aplicar camadas de proteção e testar o comportamento da aplicação diante de tentativas de abuso.

Público-alvo

Desenvolvedores, arquitetos de software, analistas de sistemas e profissionais de tecnologia que desenvolvem ou integram soluções com Inteligência Artificial.

Conteúdo do curso

Fundamentos de Segurança em Aplicações com IA

  • Principais riscos na integração de modelos de linguagem.
  • Superfícies de ataque: prompts, documentos, memória e ferramentas.
  • Limites de confiança entre usuário, modelo e aplicação.
  • Princípio do menor privilégio aplicado a agentes de IA.

Prompt Injection e Proteção de Dados

  • Manipulação de instruções e tentativas de contornar regras.
  • Injeção de instruções em documentos e conteúdos externos.
  • Exposição de dados sensíveis, credenciais e informações internas.
  • Separação entre instruções e conteúdo não confiável.
  • Validação de entradas e saídas e aplicação de guardrails.
  • Limitações das proteções baseadas somente em prompts.

Segurança em Agentes, RAG e Function Calling

  • Controle de acesso aos documentos da base de conhecimento.
  • Isolamento de histórico e memória entre usuários.
  • Validação dos parâmetros de funções sugeridas pelo modelo.
  • Autenticação e autorização na execução de ferramentas.
  • Restrições de acesso a APIs, bancos de dados e serviços externos.
  • Aprovação humana para operações sensíveis.

Controle de Uso e Monitoramento

  • Limites de requisições, tokens e consumo por usuário.
  • Controle de ciclos e chamadas sucessivas de agentes.
  • Proteção de chaves e configuração de segredos.
  • Logs e auditoria com proteção de dados sensíveis.
  • Identificação de tentativas de abuso.

Laboratório Prático: Ataque e Defesa

  • Análise de uma aplicação de IA previamente estruturada.
  • Simulação de prompt injection e acesso indevido a informações.
  • Demonstração de tentativa de execução não autorizada de ferramentas.
  • Aplicação de controles de segurança e repetição dos testes.
  • Checklist para revisão de segurança antes da publicação.