Posts no blog marcados com 'responsabilidade institucional'

Ponto 6 — Explicabilidade, Auditabilidade e Rastreabilidade

Um sistema de IA só é institucionalmente confiável se o seu comportamento puder ser compreendido, avaliado e atribuído.

Este ponto estabelece que decisões, escalamentos e não-ações deliberadas devem ser explicáveis em termos operacionais, independentemente da complexidade técnica do sistema.

A auditabilidade é tratada como propriedade estrutural, garantindo que limites acionados, incertezas declaradas e decisões humanas podem ser analisadas a posteriori de forma clara e proporcional ao risco.

A rastreabilidade assegura que a autoridade humana permanece visível, que a não-ação é distinguível de omissão e que o sistema nunca surge como decisor final.