Atualização editorial em : informações técnicas e atribuições corrigidas com fontes identificadas; publicação original preservada.

Uma formação em segurança e privacidade de IA pode ser avaliada pelo trabalho que o participante precisa produzir e pelas evidências que recebe sobre esse trabalho. O anúncio de uma grade ou de ferramentas, sozinho, não permite afirmar que a formação é eficaz.

O anúncio que motivou este artigo

Em 6 de julho de 2026, a InfoQ anunciou um programa online de cinco semanas, facilitado por Katharine Jarmul e direcionado a engenheiros seniores e arquitetos. A grade divulgada incluía dados sensíveis, modelagem de ameaças, controles, observabilidade e governança, com um relatório de avaliação e mitigação de riscos como entrega em grupo. Essas são informações do organizador, não uma avaliação independente do curso. Fonte: anúncio original da InfoQ.

Datas, vagas e condições do anúncio histórico não devem ser tomadas como oferta vigente. Este texto não recomenda matrícula nem afirma que uma ferramenta citada na grade é obrigatória para proteger uma aplicação.

O que pedir para avaliar uma formação

Para uma equipe que precisa aprender a avaliar riscos de um assistente de IA, estas são perguntas propostas para comparar o escopo do curso com a necessidade real:

  • Qual entrega será avaliada? Um mapa de fluxo de dados, por exemplo, deve permitir identificar entradas, destinos e responsáveis. Pergunte quais critérios serão usados para revisar a entrega.
  • Como os erros recebem retorno? Diferencie uma apresentação sobre ameaças de uma atividade em que o participante precisa corrigir uma análise incompleta.
  • Quais dados podem ser usados? Não presuma que um grupo de discussão autoriza compartilhar dados de clientes ou segredos da empresa. Prefira um caso fictício até que as condições de uso estejam esclarecidas.
  • O que será executado? Peça distinção entre demonstração do instrutor, exercício do participante e controle apenas descrito. Uma lista de ferramentas não responde a essa pergunta.
  • Quais limites permanecem? Registre objetivos fora do programa e quem, dentro da organização, continuará responsável por avaliar a aplicação real.

Um caso hipotético para discussão seria um assistente que resume documentos internos e envia resultados por uma ferramenta externa. A entrega poderia identificar quais dados atravessam cada etapa e propor uma verificação com documentos fictícios. A equipe ainda precisaria validar permissões, execução e resultados no seu contexto.

Aprendizado e validação de produto são entregas diferentes

Mesmo que um participante conclua a formação, a aplicação de produção não foi automaticamente testada ou aprovada. Para pensar na definição de um teste específico, o artigo sobre o OWASP AI Testing Guide apresenta uma proposta separada, com critérios e limites explícitos.

Não houve participação ou avaliação independente do curso, e o exercício proposto não foi executado. O texto não atesta conformidade legal, eficácia de uma sandbox ou vantagem competitiva decorrente da formação. Também não apresenta o anúncio como experiência profissional de Anderson.