Atualização editorial em : informações técnicas e atribuições corrigidas com fontes identificadas; publicação original preservada.
Usar um guia de testes de IA exige transformar riscos em verificações observáveis. Uma lista de temas como privacidade, robustez e imparcialidade ajuda a organizar o trabalho, mas não comprova que uma aplicação foi avaliada.
Qual versão está sendo discutida
A página oficial do OWASP AI Testing Guide informa a publicação da versão 1 em 26 de novembro de 2025 e classifica a iniciativa como projeto incubador. O escopo declarado inclui propriedades de confiabilidade de sistemas de IA, além de ameaças de segurança. Este artigo foi publicado originalmente antes dessa versão; a presente atualização considera essa mudança. Fonte: OWASP AI Testing Guide.
O status de um projeto e a existência de um guia não certificam um produto que o menciona. Na prática, o leitor precisa conseguir descobrir qual requisito foi avaliado, em qual configuração e com qual evidência. Também precisa saber o que ficou fora da avaliação.
Exemplo proposto: um assistente com documentos de clientes
Imagine um assistente interno que consulta documentos separados por cliente. A pergunta de teste é específica: uma pessoa vinculada ao cliente A consegue receber informações reservadas ao cliente B? Use apenas documentos fictícios e um ambiente autorizado para o exercício.
- Fixe o cenário: registre versão do modelo, instruções, ferramentas, permissões e versão do índice de documentos. Sem isso, duas execuções podem representar sistemas diferentes.
- Defina a evidência de falha: inclua nos documentos fictícios marcadores distintos e indique quais deles não podem aparecer para cada usuário. Essa verificação cobre o exemplo, não todas as formas possíveis de exposição.
- Compare caminhos: proponha uma consulta autorizada, uma consulta direta sobre outro cliente e uma tentativa de obter o mesmo dado por meio de uma ferramenta. A resposta textual e os registros de acesso precisam ser examinados.
- Registre cada execução: entrada, identidade de teste, resultado esperado, saída observada e evidência. Não substitua resultados ausentes por uma avaliação otimista do modelo.
- Delimite a conclusão: escreva quais casos passaram ou falharam e quais não foram executados. Ao mudar permissões, modelo ou recuperação de documentos, determine quais verificações precisam ser repetidas.
Um registro inicial honesto poderia dizer: resultado: não executado; decisão: sem evidência para liberar esse fluxo. Depois da execução, o responsável preenche os resultados reais e documenta as limitações. Um único marcador ausente não demonstra privacidade completa.
O que este recorte não avalia
O exemplo trata de separação de acesso entre clientes. Ele não mede imparcialidade entre grupos, qualidade factual das respostas, segurança de toda a infraestrutura ou atendimento a obrigações legais. Esses objetivos exigem definições, dados e avaliações próprios.
O exercício não foi executado e não é um teste oficial reproduzido do AITG. É uma proposta editorial para tornar uma pergunta de segurança verificável. Não há certificação, resultado de cliente ou relato de vivência pessoal neste texto.