WITNESS: TRIED - Avaliação das Ferramentas de Detecção de Inteligência Artificial
Por Prof. AMR. Em, 18/02/2026
Introdução
O TRIED [acrônimo para Truly Innovative and Effective AI Detection] é um benchmark [estrutura de avaliação] desenvolvido pela organização WITNESS para testar e validar a eficácia de ferramentas de detecção de Inteligência Artificial.
Diferente de testes de software convencionais que focam apenas na precisão técnica em laboratório, o TRIED propõe uma avaliação através de lentes sociotécnicas. O objetivo central é preencher a lacuna entre o que as ferramentas prometem teoricamente e como elas realmente funcionam em cenários práticos e de alto risco para defensores de direitos humanos, jornalistas e verificadores de fatos. A seguir os principais pontos do projeto.
1. Origem e Propósito
O benchmark surgiu do trabalho da Deepfakes Rapid Response Force [DRRF] da WITNESS. Ao analisar casos reais globalmente, a equipe descobriu que em 36% dos casos, ferramentas consideradas "avançadas" falharam ou deram resultados não confiáveis devido a fatores como compressão de vídeo e falta de dados representativos. O TRIED foi criado para resolver essas falhas, oferecendo um guia para desenvolvedores criarem soluções que funcionem na "vida real".
2. O Diferencial: Abordagem Sociotécnica
O TRIED redefine o conceito de "eficácia". Para o TRIED, uma ferramenta não é eficaz apenas se tiver alta precisão algorítmica; ela precisa ser avaliada sob uma perspectiva holística que inclui:
- Usabilidade: É fácil de usar por não especialistas?
- Relevância Contextual: Funciona em diferentes culturas e regiões políticas?
- Transparência: Explica claramente os resultados?
3. Alinhamento Global
O TRIED é uma iniciativa coletiva, desenhada para se alinhar e operacionalizar normas globais emergentes, incluindo o AI Act da União Europeia, as diretrizes do NIST (EUA) e da OCDE. Ele busca aplicar na prática os princípios de inteligência artificial confiável (trustworthy AI), robustez e justiça (fairness) defendidos por essas entidades.
4. Os 6 Elementos Chave
O benchmark estrutura a avaliação de ferramentas em torno de 6 [seis] pilares interconectados:
- Desempenho no Mundo Real: Capacidade de lidar com arquivos de baixa qualidade e comprimidos.
- Explicabilidade: Fornecer resultados claros, não apenas pontuações binárias.
- Acessibilidade: Considerar custos, idiomas e requisitos técnicos.
- Justiça (Fairness): Evitar viés contra demografias não representadas nos dados de treino.
- Durabilidade: Resiliência contra a evolução rápida da IA generativa.
- Integração: Capacidade de funcionar dentro de um fluxo de verificação humano maior.
Conclusão
Em resumo, o TRIED é um padrão de exigência que pressiona a indústria a criar ferramentas de detecção sejam ao mesmo tempo sofisticadas tecnicamente e socialmente responsáveis, acessíveis e úteis para proteger a integridade da informação globalmente.
Resumo em Apresentação
Conteúdo Oficial em PDF extraído do Link da WITNNES [aqui]