Pulso Executivo

Sem governança, a inovação com IA vira retrabalho

Por João Pedro Brasileiro, professor de IA da Fundação Dom Cabral (FDC), XP Educação e CEO da Innovation Latam

Um profissional de marketing cria, com ferramentas de inteligência artificial, um agente autônomo para relacionamento com clientes, capaz de enviar mensagens e executar ações. A solução resolve um problema real da sua área, mas é desenvolvida por conta própria, sem orientação prévia sobre os guardrails. Ao apresentá-la à empresa, descobre que ela não atende aos critérios de governança que só então começam a ser definidos. A iniciativa existiu, o tempo foi investido, mas o resultado não pode ganhar escala. 

A IA já entrou na rotina de muitos colaboradores, tenha a empresa uma estratégia de governança ou não. Parte desse uso ocorre sem conhecimento ou supervisão corporativa, o chamado Shadow AI. Organizar esse cenário depois que o uso já está em andamento exige estabelecer critérios para o funcionamento das aplicações, incluindo os limites de atuação dos agentes autônomos e as situações em que uma pessoa deve intervir. 

Uma previsão da Gartner evidencia os riscos das lacunas de governança. Segundo pesquisa divulgada em maio de 2026, até 2027, 40% das empresas deverão reduzir a autonomia ou desativar agentes autônomos de IA por lacunas de governança identificadas somente após a ocorrência de incidentes em produção. 

Para evitar esse cenário, o ponto de partida é conhecer as ferramentas e aplicações utilizadas, entender quais problemas resolvem e avaliar o que pode ser homologado. Isso exige abertura para que as pessoas relatem suas práticas sem medo de punição. Muitas sequer receberam orientação. 

Esse levantamento precisa resultar em ferramentas disponíveis e capacitação sobre quais dados podem ser utilizados e em quais condições. Não dar ferramenta à área de negócio é garantir que haverá Shadow AI. Além dessas orientações, é preciso definir quem responde pelas ações dos agentes autônomos. Quando um agente erra, a responsabilidade não é da IA. Alguém o desenhou, alguém o colocou em produção. Cada agente deve ter um responsável humano e limites documentados: o que pode fazer, quais dados e sistemas pode acessar e quando uma pessoa deve intervir. 

Esses controles devem acompanhar o risco da tarefa e a autonomia concedida. Organizar informações para revisão humana exige cuidados diferentes de executar uma decisão sensível. Nos casos de alto risco, a validação deve anteceder a execução. Nos demais, o acompanhamento pode diminuir conforme o desempenho seja comprovado, mantendo a observação das ações, dos dados compartilhados e do consumo de recursos. 

O aprendizado com as aplicações existentes também deve orientar os próximos projetos. A governança deve estar presente desde o desenho, para que o projeto de IA já nasça estruturado sobre o modelo de governança. Em decisões sensíveis, isso envolve negócio, tecnologia, segurança e jurídico desde o início. Com responsáveis, limites e indicadores definidos, a empresa consegue identificar quais soluções entregam valor e merecem expansão. 

Usar IA é risco, e não usar também. A governança permite administrar esses riscos e aproveitar a inovação que já acontece dentro da empresa. Seu valor está em transformar o esforço de um colaborador em uma solução que outras áreas possam usar, acompanhar e aperfeiçoar. É assim que a iniciativa individual se torna capacidade da organização. 

Filtro Pulso TI

Filtro Pulso TI: Você não precisa acompanhar tudo. Só precisa saber o que importa

Você viu?

Pulso Executivo

Mesmo sem holofotes, IA na indústria mantém sociedade em funcionamento

Por Luís Fernando Rodrigues – Engenheiro de Aplicações da Fracttal Brasil Enquanto o debate público prioriza questões sobre IA generativa,
Pulso Executivo

A ligação não morreu. Ficou mais inteligente

Por Paulo Pellon, country manager da WIZ.AI no Brasil “Digite 1 para…” “Digite 2 para…” “Não entendi sua resposta.” Quem