Governança de IA
Auditoria de modelos de IA
O modelo decide. Alguém precisa conseguir explicar por quê.
Em que consiste este trabalho
Examinamos o modelo em duas frentes que muita gente confunde: se ele trata grupos diferentes de forma justa, e se alguém consegue explicar uma decisão específica quando a pessoa afetada perguntar. Um modelo pode ser justo e incompreensível, ou perfeitamente explicável e enviesado. São exames diferentes, e você escolhe se faz um deles ou os dois.
O trabalho começa fechando o escopo por escrito: qual modelo, quais decisões, quais grupos comparar. Depois testamos com dados de prova: desempenho por grupo, comportamento nos casos difíceis e capacidade de reconstruir uma decisão individual. O resultado sai em relatório com plano de ação, e a modalidade completa acrescenta o relatório executivo e a apresentação para a diretoria.
Precisamos de acesso ao modelo ou às suas saídas, da documentação de desenvolvimento que existir e do seu time de dados disponível para responder perguntas. Auditamos o modelo no estado em que ele chega: a correção do que encontrarmos fica com quem o construiu, e o nosso plano de ação diz por onde começar.
O pano de fundo é legal, não só técnico. Quando a IA decide sobre pessoas, a LGPD dá a elas o direito de pedir revisão, e responder exige mais do que dizer que o sistema é bom. A ficha técnica e os relatórios são o material que sustenta essa resposta diante de cliente, regulador ou titular.
Como conduzimos, etapa por etapa
As etapas e os entregáveis abaixo descrevem a modalidade As duas coisas. As outras modalidades aparecem quando você pede a proposta.
Definição de escopo
Fechamos por escrito o que entra e o que fica de fora, e por quê. Escopo mal definido é a causa mais comum de projeto que estoura prazo.
Coleta de evidências
Reunimos o que já existe: documentos, configurações e registros. Começamos pelo que a empresa tem, não por um formulário em branco.
Avaliação do modelo
Testamos o modelo com dados de prova: desempenho por grupo, comportamento nos casos difíceis e capacidade de explicar uma decisão específica.
Relatório
Consolidamos os achados num relatório em que cada item vem com gravidade, evidência e o caminho de correção. Escrevemos para ser lido por quem vai agir, e não para engordar página.
Apresentação
Reunião com a diretoria traduzindo o resultado técnico em risco de negócio e decisão de investimento. Chegamos com a resposta para as perguntas que a mesa sempre faz: o que atacar primeiro, quanto esforço isso pede e o que acontece se nada for feito.
O que não está incluso
- Correção ou retreinamento do modelo, que fica com o seu time de dados
- Rotulagem ou coleta de dados para teste, que só entram se combinadas à parte
- Garantia de resultado: auditamos o modelo como ele está, não como poderia ficar
- Monitoramento contínuo do modelo depois da auditoria: examinamos um retrato no tempo, e acompanhar o que muda é rotina do seu time
- Ataque adversarial ao sistema, tentando fazê-lo agir fora do combinado, que é trabalho de outra natureza
- Parecer jurídico sobre a decisão automatizada, que fica com a advocacia contratada por você
- A resposta direta ao titular que pediu revisão, que é do controlador: entregamos o material que sustenta essa resposta
Costuma vir junto
Não é pacote e não muda o que você já escolheu. É o que costuma aparecer logo depois, na experiência de quem já passou por isso.