Por Datainfo em parceria com Innovation Center · Luciane Schwalbe e Juan Pablo Dávila Boeira Tempo de leitura: 8 minutos · Publicado em maio de 2025
Accountability em projetos de IA é a capacidade de identificar quem responde por quê, quando e como em cada sistema de decisão automatizada. É o problema que a maioria das empresas ainda não resolveu — e que cresce a cada novo agente de IA colocado em produção sem estrutura de governança.
O cenário que ninguém quer enfrentar
Imagine o seguinte.
Um agente de IA da sua empresa nega automaticamente uma solicitação de crédito. O algoritmo processou os dados, calculou o risco e tomou a decisão em milissegundos, sem intervenção humana. O cliente contesta. O caso chega ao jurídico. A diretoria convoca reunião.
E aí vem a pergunta que ninguém preparou resposta:
Quem era responsável por essa decisão?
O fornecedor da ferramenta? O time de dados que treinou o modelo? O gestor de TI que aprovou a implementação? A área de negócio que definiu os critérios?
Na maioria das empresas brasileiras que já adotaram IA em processos operacionais, a resposta honesta é a mais perigosa possível: ninguém sabe ao certo.
Por que a accountability em projetos de IA é diferente de qualquer outro projeto de TI
Em projetos de TI tradicionais, a responsabilidade é razoavelmente rastreável. Há donos de processo, critérios de aceite, aprovações documentadas.
Em projetos de IA, esse rastreamento quebra em quatro pontos específicos:
1. A decisão não é de uma pessoa — é do modelo Um modelo de machine learning toma decisões com base em padrões aprendidos em dados históricos. Não há uma linha de código que diga “recuse este cliente”. Há uma função matemática que aprendeu a reconhecer padrões. Isso dificulta — mas não impossibilita — a atribuição de responsabilidade.
2. Os dados de treinamento têm origem difusa Quem garantiu a qualidade dos dados? Quem validou que não havia viés? Quem aprovou o dataset antes de ele treinar um modelo que toma decisões reais? Em muitas empresas, ninguém assinou embaixo dessas perguntas.
3. A supervisão humana foi removida sem ser substituída A promessa da automação é a remoção da intervenção humana. O problema é que, ao remover o humano da decisão, muitas empresas também removeram o humano da responsabilidade — sem criar nenhuma estrutura que ocupasse esse lugar.
4. O escopo do agente cresceu além do planejado Agentes de IA expandem seu escopo conforme ganham mais dados e integrações. O que começou como automação de triagem pode, sem controles, influenciar decisões que nunca foram planejadas para ele.
O que especialistas dizem sobre accountability em IA
Luciane Schwalbe, Partner & COO do Innovation Center, especialista em Gestão de IA com formação executiva no MIT e trajetória com Google e Microsoft, é direta sobre o problema:
“Quem responde quando um agente de IA toma uma decisão errada sem supervisão humana? Gerir agentes de IA sem um Sistema de Gestão de Inteligência Artificial estruturado é navegar às cegas. A autonomia da IA exige um nível de governança proporcional à sua liberdade de ação.”
— Luciane Schwalbe, Partner & COO, Innovation Center
O ponto não é que a IA vai errar — embora vá, eventualmente. O ponto é que autonomia sem governança cria um vácuo de responsabilidade. E vácuos de responsabilidade em operações críticas têm um custo que vai muito além do erro em si: reputacional, jurídico e operacional.
Segundo levantamento da Gartner com 782 líderes de Infraestrutura e Operações (novembro/dezembro de 2025), apenas 28% dos projetos de IA atingem plenamente o ROI esperado, e 50% dos POCs de IA generativa são abandonados antes de chegar à produção. A ausência de estrutura de accountability é um dos principais fatores.
Três perguntas para diagnosticar sua situação agora
Se você gerencia TI e tem algum projeto de IA em operação, responda:
Pergunta 1 — Você tem um responsável nomeado para cada sistema de IA em produção? Não o fornecedor. Não o time de dados coletivamente. Uma pessoa, com nome e cargo, que responde pelo comportamento daquele sistema.
Pergunta 2 — Existe um processo formal para contestar uma decisão tomada pela IA? Se um cliente ou colaborador for impactado por uma decisão automatizada, há um fluxo documentado para revisão? Quem aprova a reversão? Em quanto tempo?
Pergunta 3 — Quando foi a última vez que o modelo foi auditado? Modelos degradam. Dados mudam. Regras de negócio evoluem. Um modelo treinado há 18 meses pode estar tomando decisões com base em padrões que já não refletem sua operação atual.
Se qualquer resposta foi “não sei” ou “precisaria verificar”, você tem um problema de accountability em projetos de IA — e ele cresce a cada decisão que o sistema toma sem supervisão.
Como estruturar accountability em projetos de IA na prática
Quatro elementos constroem accountability real. Não são burocracia — são a diferença entre um sistema de IA que a empresa controla e um que controla a empresa.
1. AI System Owner (Dono do Sistema) Cada sistema de IA em produção precisa de um responsável formal interno. Alguém que conhece o escopo do sistema, monitora seu desempenho, responde por seus resultados e tem autoridade para pausá-lo se necessário. Esse papel não é do fornecedor.
2. Critérios de decisão documentados Quais decisões o sistema pode tomar sozinho? Quais precisam de revisão humana? Quais são proibidas? Esses critérios precisam estar documentados, revisados periodicamente e conhecidos pelas áreas impactadas.
3. Rastreabilidade de decisões Toda decisão relevante tomada por um sistema de IA deve ser registrada — com timestamp, dados de entrada, saída e versão do modelo utilizado. Sem rastreabilidade, não há accountability.
4. Processo de revisão e contestação Qualquer decisão automatizada que impacte pessoas ou operações críticas precisa ter um processo claro: quem pode contestar, por qual canal, em qual prazo, com qual critério de reversão.
Além dos processos: a dimensão cultural da accountability
Há uma dimensão que vai além de documentação. É cultural.
Luciane Schwalbe resume:
“Tecnologia não é o problema. A ausência de discernimento é. No final, não serão os algoritmos que definirão o futuro. Serão os valores das pessoas que os constroem.”
— Luciane Schwalbe, Partner & COO, Innovation Center
Discernimento, nesse contexto, é a capacidade organizacional de reconhecer os limites do que a IA deve decidir sozinha — e ter maturidade para manter o humano no loop onde ele precisa estar.
Empresas que avançaram com mais segurança em IA têm uma característica em comum: não trataram governança como freio à inovação. Trataram como condição para escalar com confiança.
O cenário regulatório está sinalizando na mesma direção
O AI Act europeu, em vigor desde 2024, estabelece requisitos explícitos de accountability para sistemas de IA de alto risco: documentação obrigatória, supervisão humana e rastreabilidade de decisões. Empresas que exportam para a Europa ou têm parceiros europeus já estão sujeitas a essas exigências.
No Brasil, o PL 2338/23 segue em tramitação com princípios similares. Independente de legislação, clientes, parceiros, investidores e conselhos de administração já fazem perguntas sobre como as empresas governam seus sistemas de IA.
Estar preparado para responder essas perguntas com clareza não é só compliance. É reputação, confiança e sustentabilidade do negócio.
Próximo passo: o Assessment de Maturidade em IA
Antes de estruturar accountability, é preciso ter clareza sobre o estado atual: quais sistemas de IA estão em operação, quais decisões tomam, quais têm supervisão humana e quais não têm.
No dia 28 de maio, às 11h, a Datainfo e o Innovation Center realizam o Meetup IA + Governança — evento gratuito e online com Luciane Schwalbe e Juan Pablo Dávila Boeira (Pós-Doutor em IA · MIT · Harvard · INSEAD · Líder de Tecnologia mais Admirado do Brasil 2024).
Ao final, os participantes são convidados para um Assessment Gratuito de Maturidade em IA — diagnóstico estruturado em seis dimensões que identifica onde sua empresa está preparada para escalar IA com resultado e onde estão os principais riscos.
Gratuito. Online. Vagas limitadas.
🔗 Garanta sua vaga — 28/05 às 11h
Resumo — O que você precisa saber sobre accountability em projetos de IA
- Accountability em projetos de IA é identificar quem responde por quê, quando e como em cada sistema de decisão automatizada.
- A maioria das empresas removeu o humano da decisão sem criar estrutura que ocupasse esse lugar — gerando um vácuo de responsabilidade.
- Quatro elementos constroem accountability real: AI System Owner, critérios documentados, rastreabilidade e processo de contestação.
- Modelos de IA degradam com o tempo — auditoria periódica não é opcional.
- O cenário regulatório global (AI Act, PL 2338/23) está formalizando exigências de accountability que o mercado já cobra na prática.
- Governança não é freio à inovação — é condição para escalar com confiança e resultado mensurável.
