A inteligência artificial já está disseminada entre as empresas brasileiras.
De 2024 para 2025, a adoção dessa tecnologia saltou de 13% para 17%, segundo a 16ª edição da TIC Empresas, realizada pelo Cetic.br. Um dos aspectos que chama a atenção dessa evolução é que ela ocorre independentemente do porte das companhias, exigindo abordagens especializadas em relação à governança de IA.
Nas pequenas empresas, que empregam de 10 a 49 pessoas, o uso da IA saltou de 10% para 15% no período. As companhias de grande porte mostram mais maturidade em relação à tecnologia: expansão de 38% para 50% de 2024 para 2025. O estudo investigou os diferentes tipos de IA usados: ferramentas de linguagem natural, mineração de texto, análise de linguagem escrita, geração de linguagem natural.
Se é inviável competir sem a presença dessa tecnologia, o desafio das empresas é estabelecer uma governança de IA estratégica, que contemple riscos e conformidade (GRC), incluindo também um olhar específico para a cibersegurança e o respeito ao tratamento de dados conforme os critérios da LGPD.
Vamos entender mais sobre este tema na sequência do blog.
O que é governança de IA?
A governança de IA engloba o conjunto de políticas, processos, papéis e controles que orientam o design, a implantação e o monitoramento de sistemas de inteligência artificial dentro de uma organização. Essa estrutura define as regras para desenvolver ou contratar uma solução com essa tecnologia, como um ERP com IA.
É importante que esta regra também considere quais dados as soluções devem ter acesso, como auditar os resultados e quem responde por eventuais falhas ou danos causados.
Nesse cenário, é preciso que essa lógica seja construída entre todas as áreas corporativas, definindo comitês responsáveis, fluxos de processos e aprovação e documentação técnica, além de modelos e KPIs para monitorar desempenho e risco.
Governança de IA é o mesmo que ética em IA?
A ética em IA é um campo mais amplo, voltado a princípios como justiça, transparência e não discriminação no uso da tecnologia. Trata-se de uma discussão filosófica sobre como a tecnologia pode ser usada e as novas ameaças que ela desenvolve.
No caso da governança de IA, sua abordagem é totalmente operacional. Não se discute se a empresa deve ou não adotar a tecnologia, mas criam-se normas, responsáveis, métodos de revisão e objetivos com a tecnologia. Uma empresa pode assumir o compromisso de ser ética no uso da IA, mas, para fazer isso, há a necessidade de um governo de IA especializado para cada solução.
Qual a diferença entre governança de IA e compliance de dados?
O compliance de dados é um recorte mais específico: estar em conformidade com normas de proteção de informações pessoais e sensíveis, como a LGPD, em termo de consentimento, finalidade do tratamento e segurança de dados coletados.
Essa política de compliance integra a governança de IA, que tem uma abordagem mais ampla, incluindo na tentativa de mitigar vieses e impedir decisões sem supervisão humana, se esse for o critério determinado pela organização.
Por que a governança de IA é essencial para as empresas?
O estudo do Cetic.br mostra que a realidade da IA já está na rotina das empresas. E, considerando a disseminação dessas tecnologias em nossas rotinas, é de se imaginar que o volume de companhias adotando a solução seja ainda maior.
A questão não é mais se as empresas vão usar a tecnologia, mas de que forma? É para responder esta pergunta que a governança de IA ganha força:
- Redução de riscos legais, regulatórios e reputacionais, ao respeitar legislações de dados e outras normas que precisam ser monitoradas;
- Prevenção de vieses e discriminação algorítmica, que podem ser sentidos em setores diversos: do RH (funil de recrutamento e gestão de pessoas) às decisões da liderança;
- Ganho de confiança de clientes e reguladores: sabe-se que os aspectos de compliance estão se tornando um diferencial no momento de optar por parceiros comerciais;
- Sustentação da escala de IA sem perda de controle: são necessárias regras a respeito da IA, ela pode agir de forma autônoma sem supervisão humana? Essas questões são respondidas pela governança de IA, estabelecendo mecanismos de freios e contrapesos.
Quais são os principais pilares da governança de IA?
Cinco frentes devem se complementar em uma abordagem eficiente de governança de IA. Veja, abaixo, quais são elas:
Segurança e privacidade
A IA é uma tecnologia que demanda dados.
Por isso, a proteção dessas informações é um pilar sensível que não pode ser ignorado. Boas medidas nesta área incluem criptografia, controle de acesso e anonimização de dados sensíveis usados no treinamento ou na operação dos modelos. É importante ainda definir por quanto tempo esses dados devem ser armazenados e quais pessoas ou setores têm acesso a eles.
Transparência e explicabilidade
Este alicerce foca na capacidade de rastrear como um modelo chegou a determinado resultado, documentando as variáveis consideradas e permitindo que os clientes, os reguladores e os times internos entendam a lógica por trás da resposta. Um dos argumentos adotados por muitos negócios é: uma decisão só pode ser automatizada se houver explicações por trás dela.
Responsabilização e supervisão humana
Em tese, nenhum sistema de IA deve operar sem que uma pessoa ou um time responda por suas decisões. Dentro dessa lógica, é importante que existam papéis claros para a aprovação de modelos de IA, validação de resultados e o nível de intervenção humana. Muitos desses fatores estão diretamente relacionados à maturidade tecnológica de cada negócio e à confiança na tecnologia.
Será que uma indústria deixaria sua operação ser totalmente interrompida se a IA identificar alguma anomalia? Ou as equipes responsáveis precisam validar esta análise?
Gestão de riscos
Uma governança de IA efetiva deve identificar riscos antes que eles se tornem problemas. É importante tentar mapear eventuais vieses percebidos nos treinamentos de modelos e agentes de IA, classificando o nível da ameaça. De certa forma, é como seguir uma matriz de riscos, entendendo quais controles serão necessários.
Monitoramento e conformidade
Assim como outras soluções em tecnologia, os sistemas de IA devem ser monitorados continuamente depois de sua aplicação. Realizar auditorias frequentes, observar os resultados, analisar o comportamento das equipes são medidas necessárias para avaliar o desempenho e tentar melhorar a performance de maneira segura.
Como funciona a governança de IA na prática?
A inteligência artificial deve ser tratada como as outras soluções de negócio. Ou seja, depois de sua implementação, é preciso estabelecer regras e acompanhá-la periodicamente com KPIs específicos e gerais para entender o seu impacto efetivo sobre a operação.
No dia a dia de uma empresa, a governança de IA pode ter o seguinte fluxo:
- Mapeamento – No monitoramento de uma operação logística, a IA auxilia na roteirização e monitora se os veículos estão seguindo o planejamento.
- Monitoramento e aprovação – Ao perceber o atraso de um dos caminhões, a IA emite um alerta aos responsáveis. Os times envolvidos verificam o que está acontecendo e tomam as decisões recomendadas ou outras que julgarem necessárias.
- Revisão – As equipes envolvidas na roteirização podem avaliar essa intervenção, explicar qual foi o problema (trânsito, acidente, obras).
Esse processo repetido de maneira contínua vai contribuir para gerar inteligência, aumentar a confiança na tecnologia e assegurar que as equipes humanas possam se focar em atividades mais estratégicas.
É saudável que uma governança de IA envolva não apenas as áreas diretamente relacionadas, como TI e compliance, mas esteja alinhada à operação propriamente dita: ou seja, as equipes logísticas, neste exemplo.
O que o PL 2.338/2023 muda para a governança de IA no Brasil?
Aprovado pelo Senado em março de 2025 e encaminhado à Câmara Federal, onde aguarda o parecer da Comissão Especial, o PL 2.338/2023 atua como um Marco Legal da Inteligência Artificial no Brasil.
Em seu artigo 1º, ele determina: “Esta Lei estabelece normas gerais de caráter nacional para a governança responsável de sistemas de inteligência artificial no Brasil, com o objetivo de proteger os direitos fundamentais, estimular a inovação responsável e a competitividade e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento social, científico, tecnológico e econômico”.
Categorização de riscos
A norma brasileira se inspira no modelo europeu (The EU Artificial Intelligence ACT), que definiu 4 riscos do uso de modelos de IA:
- Inaceitáveis (nível 1), com práticas proibidas por violar direitos fundamentais;
- Elevado (nível 2), que demandam conformidade rigorosa em áreas como educação e saúde;
- Limitado (nível 3), aplicados à interação direta com pessoas;
- Mínimo (nível 4), que demandam códigos de conduta voluntários e estão em jogos, por exemplo.
No Brasil, o PL 2.338/2023 faz essa separação em dois grandes grupos, conforme previsto nos artigos 12, 13 e 14 do PL. Há o risco excessivo, com uma série de proibições para o uso de IA; e o alto risco, situação na qual é preciso analisar a possível gravidade e probabilidade de impactos. Essas ameaças serão definidas pelo Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA).
Quais frameworks podem orientar a governança de IA?
Enquanto o PL 2.338/2023 não é sancionado, empresas brasileiras não precisam esperar para estruturar sua governança de IA. Dois frameworks internacionais podem servir de referência prática e ajudam a antecipar boa parte das exigências que devem chegar com a legislação nacional.
O EU AI Act entrou em vigor em agosto deste ano. Muitos negócios precisam responder a pedidos de documentação técnica, avaliações e, em casos de descumprimento, restrições de oferta no mercado europeu. Negócios brasileiros em operação ou clientes na Europa podem tratar desta medida como uma realidade operacional.
Publicado pelo instituto americano NIST, o AI Risk Management Framework organiza a governança em torno de quatro funções centrais: mapear, medir, gerenciar e governar riscos de sistemas de IA. O propósito é descobrir modelos que possam ter falhas e gerar impactos negativos, quantificando probabilidades e ações de mitigação.
Por ainda não ser uma norma obrigatória, esses frameworks podem ser um caminho para ampliar a maturidade da governança de IA antes de qualquer legislação nacional.
Como implementar um programa de governança de IA?
A governança de IA pode amadurecer junto com o uso da tecnologia. Boas práticas na área incluem:
Mapear os sistemas de IA em uso
Identifique todos os sistemas de IA já em operação, incluindo os de maneira isolada por setor ou grupo de colaboradores. Liste quais dados a solução acessa, decisões que influenciam e autonomia.
Definir papéis e responsáveis
Estabeleça responsáveis em cada sistema de IA: um técnico, que avalie a operação propriamente dita, e uma pessoa da área, que compreenda o impacto da solução para aquele setor em específico.
Estabelecer critérios de auditoria e revisão
Assim como qualquer outra solução, a tecnologia deve contar com revisões frequentes, a partir de métricas específicas e situações que demandam uma reavaliação urgente. Periodicamente, este acompanhamento deve ser realizado.
Escolher fornecedores com governança nativa
Ao contratar soluções de mercado, como um ERP ou um CRM com módulos de IA, torna-se mais simples fazer controles por meio de auditorias, rastrear decisões e gerir os acessos. Na maioria dos casos, reduz-se o esforço de adaptação e ganha-se agilidade e maturidade.
Como aplicar governança de IA dentro dos sistemas de gestão?
Um cenário mais tranquilo para as empresas é assegurar que os agentes de IA estejam concentrados em um mesmo ecossistema tecnológico. Com isso, facilita-se a gestão da arquitetura de segurança, a autenticação, as permissões e controle de acesso do sistema de gestão. Dessa forma, os dados, os processos e os agentes de IA seguem uma mesma regra.
Nossa plataforma de Inteligência Artificial – SARA – engloba mais de 50 agentes especializados nativos ao ERP. O termo SARA decorre de “Senior Agent for Recommendation & Analysis”, automatizando processos e dando agilidade às decisões. Diferente de chatbots genéricos, os agentes de IA são nativos ao ERP, desenvolvidos para contextos específicos de negócio.
Quer contar com agentes de IA operando em suas regras de governança, rastreabilidade e aderência à lei? Venha conhecer a Sara, a IA da Senior.
