Gestão

5,2% dos líderes de tecnologia têm total confiança para explicar decisões de IA, aponta pesquisa da FICO

Nova edição do relatório State of Responsible AI identifica oportunidades para ampliar a confiança, a transparência e os retornos das implementações de inteligência artificial

A FICO (NYSE: FICO), líder global em software de analítica, anunciou hoje os resultados do estudo 2026 State of Responsible AI, desenvolvido em colaboração com a Corinium Global Intelligence. Em seu quinto ano, o relatório analisa como as organizações estão avançando na adoção de práticas de IA responsável, os primeiros resultados obtidos com a tecnologia e os desafios que ainda precisam ser superados para aproveitar todo o seu potencial. 

O relatório deste ano entrevistou mais de mil líderes seniores das áreas de tecnologia, risco e dados, para entender como a IA vem influenciando a tomada de decisões nas empresas. Embora as organizações tenham investido bilhões em IA, o estudo revela que 71,5% das decisões com impacto no cliente ainda são tomadas sem o uso da tecnologia. Além disso, apenas 5,2% dos entrevistados se sentem muito confiantes para explicar decisões orientadas por IA. Os resultados reforçam a importância de práticas de IA responsável para aumentar a confiança e a transparência. Entre as iniciativas apontadas pelos participantes como capazes de gerar maior impacto, os padrões para o desenvolvimento de modelos de IA aparecem em primeiro lugar, mencionados por 71,9% dos entrevistados. 

“A maioria das organizações consegue dizer onde e o que a IA decidiu. Muito poucas conseguem explicar o porquê“, afirma Scott Zoldi, Chief Analytics Officer (CAO) da FICO. “Isso revela a falta de padrões e técnicas de IA responsável, o que pesa diretamente na disposição das organizações de usar a IA em decisões que afetam os clientes. Com reguladores e clientes analisando de perto como a IA é usada nessas decisões, auditabilidade e explicabilidade se tornam inegociáveis.”

A explicabilidade ganha espaço como fator de impacto
A regulamentação de IA avança em todo o mundo, com formuladores de políticas propondo estruturas que exigem adoção de práticas de IA responsável. Ainda assim, é pequeno o grupo de líderes que se sente muito confiante para explicar essas decisões a reguladores e clientes, enquanto mais de um terço (37,3%) se declara neutro ou nada confiante. Se essa lacuna não for enfrentada, as organizações podem perder a confiança de reguladores e clientes. 

Os líderes reconhecem a importância da transparência. A maioria considera que práticas responsáveis, como padrões de desenvolvimento de modelos (71,9%) e arquiteturas de modelos interpretáveis (67,9%), têm o maior potencial de impacto sobre a IA. Eles também vêm investindo ativamente em práticas de IA responsável, com a maioria usando ferramentas de detecção de viés (58,8%) e auditando regularmente seus modelos de IA (53,5%).

Ainda existem oportunidades não aproveitadas para maximizar o ROI da IA
Embora 85,1% dos entrevistados afirmem que a IA atendeu ou superou suas expectativas de ROI, a maior parte das decisões empresariais ainda depende de processos legados: julgamento humano (33,3%), sistemas baseados em regras (21,4%) e ferramentas de analítica tradicional (16,8%). Reduzir essa lacuna exige práticas responsáveis que ampliem a confiança na IA e permitam que a tecnologia assuma um papel mais relevante em decisões que ainda dependem de julgamento humano e regras preestabelecidas. 

Parte desse desafio está na ausência de uma infraestrutura técnica compartilhada para integrar e orquestrar recursos de IA responsável. Apenas 8,2% das organizações têm uma plataforma única e compartilhada para implantação de IA totalmente implementada, enquanto 71,2% têm uma parcialmente implementada. Quase todos os entrevistados (96,4%) acreditam que uma colaboração mais próxima entre as lideranças de IA e tecnologia, apoiada por uma plataforma compartilhada, geraria retornos adicionais. A educação organizacional e a visão compartilhada são outra barreira. A resistência à mudança (61,4%) e a falta de um entendimento compartilhado sobre IA (58,4%) aparecem como os dois principais obstáculos para o alinhamento interno em torno da tecnologia.

Olhando para os próximos cinco anos, 63,2% dos entrevistados apontam como principal risco o fato de as habilidades da força de trabalho não acompanharem o ritmo de adoção da IA. Em contraste, apenas 10,4% consideram a perda de controle sobre os sistemas de IA um risco relevante, colocando esse fator em último lugar entre as preocupações apontadas. Os resultados mostram que, para os líderes, o desafio está principalmente em preparar as equipes para acompanhar a rápida evolução da tecnologia.

“Há um ano, havia sérias dúvidas sobre retornos da IA. Hoje, a principal questão enfrentada pelos executivos é como dimensionar a tecnologia em toda a empresa”, afirma Lariza Carrera, diretora de produção da Corinium Global Intelligence. “Cada vez mais, a resposta tem menos a ver com a tecnologia em si e mais a ver com as pessoas que a operam.”

Barreiras práticas mantêm a IA Agêntica presa em projetos piloto
A promessa da IA agêntica é real, mas os números mostram que a maioria das organizações ainda avança com cautela. Apenas 2,4% dos líderes de tecnologia afirmam ter implementado a IA agêntica de forma ampla em casos de uso voltados para clientes, enquanto 71,5% ainda estão em fases iniciais de exploração ou em projetos-piloto. As principais barreiras para obter retorno sobre o investimento com a tecnologia são as preocupações com segurança (40,1%) e os desafios relacionados à integração e à qualidade dos dados (38,3%). 

A IA agêntica também não está entre as tecnologias que os líderes esperam que gerem os maiores retornos no curto prazo. Nos próximos 18 meses, os modelos de linguagem específicos por domínio (49,5%), a IA generativa (48,7%) e as arquiteturas de modelos interpretáveis (46,6%) aparecem no topo da lista de tecnologias com maior potencial para impulsionar o ROI. A IA agêntica é citada por 27,5% dos entrevistados.

“A IA agêntica ainda está em fase inicial de experimentação, e é exatamente quando a base preparatória é mais importante”, disse Rachael Hadaway, vice-presidente de produtos de IA da FICO. “Os líderes que estão investindo em segurança e integração de dados hoje estão construindo a base para a autonomia em escala.”

Metodologia
Realizado pela Corinium em nome da FICO, o relatório deste ano entrevistou 1.004 líderes seniores das áreas de tecnologia, dados e risco, incluindo CTOs, CIOs, Chief Data Officers, Chief Digital Officers, Chief Analytics Officers, Chief AI Officers, Chief Risk Officers e executivos em nível de VP/SVP/EVP em analítica, dados e IA, em sete setores. A amostra representa uma expansão em relação a relatórios anteriores, que entrevistaram executivos do C-suite no setor de serviços financeiros. O grupo de entrevistados é global, com dois terços baseados na América do Norte.

Clique aqui para baixar o relatório completo.

Filtro Pulso TI

Filtro Pulso TI: Você não precisa acompanhar tudo. Só precisa saber o que importa

Você viu?

Gestão

Shadow IT 2.0 acende alerta nas empresas: metade dos profissionais já cria com IA sem depender do TI, aponta pesquisa

Criação de automações, apps e painéis com IA se espalha por diferentes áreas e níveis hierárquicos, ampliando os desafios de
Gestão

Bemol acelera acesso a dados em tempo real com SAP Business Data Cloud

A Bemol, uma das maiores varejistas multicanais da Amazônia Ocidental, implementou o SAP Business Data Cloud e o SAP Datasphere