A Inteligência Artificial (IA) está transformando setores inteiros, criando novas
oportunidades e otimizando processos. Mas, junto com o potencial de inovação, surgem
riscos complexos — legais, éticos, reputacionais e operacionais — que demandam atenção
estratégica de empresas e conselhos de administração. Uma governança eficaz de IA não é
apenas questão de conformidade: é um diferencial competitivo e um pilar de confiança para
o futuro.
Entre os principais riscos associados à IA, podemos citar alguns bem relevantes, que
não necessariamente abrangem todos os riscos existentes:
- Precisão e “Alucinações”
Modelos de IA, especialmente os generativos, podem produzir informações falsas ou
imprecisas com alta confiança. Em áreas críticas — como saúde, finanças ou justiça —
isso pode levar a decisões erradas, sanções legais e danos reputacionais.
Mitigação: curadoria de dados, supervisão humana obrigatória e auditorias regulares. - Viés e Discriminação
A IA pode reproduzir e amplificar preconceitos presentes nos dados de treinamento,
levando a decisões discriminatórias por gênero, raça, idade ou outros atributos
protegidos.
Mitigação: testes de viés antes e após a implementação, uso de dados representativos,
canais de apelação e monitoramento contínuo. - Falta de Explicabilidade e Transparência
Sistemas “caixa-preta” dificultam auditorias e responsabilização. A ausência de
transparência afeta a confiança de clientes, reguladores e investidores.
Mitigação: uso de modelos explicáveis, documentação técnica (model cards) e
comunicação clara sobre funcionamento e limitações. - Propriedade Intelectual
Há risco de violações de direitos autorais, patentes ou marcas — seja nos dados usados
para treinar modelos, seja nas saídas geradas.
Mitigação: revisão contratual com fornecedores, gestão de direitos sobre dados e
outputs, e políticas para uso de modelos de terceiros. - Privacidade e Proteção de Dados
O uso de dados pessoais em IA pode violar a LGPD ou regulamentos internacionais,
especialmente se houver decisões automatizadas sem transparência ou
consentimento.
Mitigação: conformidade com a LGPD, avaliação de impacto e restrições no
compartilhamento de dados. - Segurança e Ciberataques
A IA pode ser alvo de ataques como data poisoning, model backdoors e uso malicioso
para criar phishing ou deepfakes.
Mitigação: atualizações de políticas de segurança, testes de penetração, e treinamento
de colaboradores para ameaças específicas de IA. - Impactos na Força de Trabalho
Automação e decisões algorítmicas podem afetar funções, gerar desemprego e
desengajamento, além de riscos legais trabalhistas.
Mitigação: programas de requalificação (upskilling/reskilling), comunicação clara de
objetivos e inclusão dos trabalhadores no desenho de casos de uso. - Impactos Ambientais
O treinamento e operação de modelos de IA podem aumentar significativamente o
consumo de energia e emissões.
Mitigação: monitoramento de pegada de carbono, uso de energia renovável e integração
de equipes de IA e sustentabilidade.
O papel dos Conselhos de Administração
Segundo o Relatório 2024 da NACD e boas práticas internacionais como o NIST AI Risk
Management Framework e o AI Act Europeu, o conselho deve atuar em três frentes:
1.Oversight (Supervisão): integrar a IA à estratégia corporativa, definir limites éticos e
aprovar políticas de governança.
2.Insight (Capacitação): desenvolver letramento em IA (AI literacy) para entender
riscos e oportunidades.
3.Foresight (Visão de Futuro): antecipar impactos tecnológicos e regulatórios,
estimulando inovação responsável.
Como se preparar para os desafios da IA
1.Estabelecer um Framework de Governança de IA
- Classificação de riscos (baixo, médio, alto)
- Supervisão humana obrigatória em decisões críticas
- Auditorias e monitoramento contínuo
2.Adotar Políticas Claras de Uso
- Diretrizes para uso interno e com fornecedores
- Planos de resposta a incidentes de IA
3.Investir em Capacitação e Cultura Organizacional
- Treinamentos para conselhos e equipes
- Inclusão de ética e responsabilidade no ciclo de vida da IA
4.Garantir Conformidade Regulatória
- Atender à LGPD, EBIA e acompanhar o PL 2.338/2023 no Brasil
- Adequar-se a normas internacionais se atuar em mercados como UE ou EUA
5.Prevenir “AI Washing”
- Evitar declarações enganosas sobre uso ou capacidades da IA
- Garantir alinhamento entre discurso e prática
Conclusão
A IA é uma poderosa alavanca de inovação, mas seu uso sem governança pode gerar riscos
significativos. Conselhos e executivos precisam assumir protagonismo na construção de
estratégias que equilibrem valor, ética, segurança e conformidade.
O desafio não é apenas técnico — é de liderança responsável.
Autora: Cintia Scafutto
