A adoção acelerada de inteligência artificial nas empresas trouxe à tona uma discussão que, até pouco tempo atrás, ocupava posição secundária, como ressalta Jean Pierre Lessa e Santos Ferreira nos planejamentos de tecnologia: a ética aplicada a sistemas automatizados. Decisões que antes dependiam exclusivamente de critérios humanos passaram a ser influenciadas, em parte, por algoritmos treinados a partir de grandes volumes de dados.
A discussão ganhou força à medida que empresas de diferentes setores passaram a usar inteligência artificial em processos sensíveis, como avaliação de crédito, recrutamento e atendimento ao cliente. O avanço técnico, no entanto, não eliminou a necessidade de supervisão humana, e a governança de tecnologia surgiu como elemento indispensável para garantir que os sistemas operem dentro de parâmetros responsáveis.
Por que a ética se tornou parte central da governança de tecnologia?
Para Jean Pierre Lessa e Santos Ferreira, a ética deixou de ser um tema abstrato e passou a compor diretamente os critérios de avaliação de projetos de inteligência artificial. Empresas que antes mediam o sucesso de uma implementação apenas por ganhos de produtividade passaram a considerar também impactos sociais, riscos de discriminação algorítmica e transparência nos critérios de decisão automatizada.
A mudança de perspectiva reorganizou prioridades dentro de equipes de tecnologia, que precisaram incorporar etapas adicionais de revisão antes de colocar sistemas em produção. A governança de tecnologia, nesse contexto, deixou de ser apenas um conjunto de normas documentais e se tornou parte ativa do ciclo de desenvolvimento de software, com avaliações recorrentes ao longo de cada etapa do projeto.
Como empresas estão estruturando comitês de governança para IA?
CTO com atuação voltada a projetos de inteligência artificial corporativa, Jean Pierre Lessa e Santos Ferreira, esclarece que comitês multidisciplinares vêm ganhando espaço como mecanismo de controle. Esses grupos reúnem profissionais de tecnologia, jurídico e compliance, com a função de avaliar riscos antes da implementação de sistemas automatizados em processos críticos da organização.
A criação desses comitês também influencia a gestão de projetos de tecnologia, já que decisões que antes ficavam restritas a equipes técnicas passam a depender de validação multidisciplinar. Embora esse processo amplie o tempo de aprovação de iniciativas, a expectativa das empresas é de reduzir riscos legais e reputacionais associados a falhas em sistemas de inteligência artificial.
Quais riscos a falta de controle ético pode gerar para a segurança da informação?
Jean Pierre Lessa e Santos Ferreira pontua que falhas de governança em projetos de inteligência artificial frequentemente se conectam a vulnerabilidades de segurança da informação. Sistemas mal supervisionados podem expor dados sensíveis, replicar vieses presentes nas bases de treinamento ou tomar decisões automatizadas sem trilha de auditoria clara, dificultando a identificação de falhas após sua ocorrência.
Esses riscos se tornam mais relevantes conforme cresce o volume de dados processados por sistemas corporativos. A ausência de controles éticos bem definidos compromete não apenas a conformidade regulatória da empresa, mas também a confiança de clientes e parceiros em relação à forma como informações estratégicas são tratadas ao longo de toda a cadeia tecnológica.
O papel da liderança em tecnologia na maturidade ética das empresas
A maturidade ética de uma empresa em relação à inteligência artificial, segundo Jean Pierre Lessa e Santos Ferreira, depende diretamente da postura adotada pela liderança em tecnologia. Decisões sobre quais sistemas implementar, com que nível de supervisão e sob quais critérios de transparência costumam refletir diretamente a cultura de tecnologia estabelecida pelos responsáveis pela área.
Empresas que tratam governança e ética como parte estrutural da transformação digital tendem a enfrentar menos resistência interna na adoção de novas ferramentas, já que colaboradores percebem maior previsibilidade nos critérios utilizados. O alinhamento entre liderança, governança e prática técnica deve seguir como condição central para o avanço responsável da inteligência artificial corporativa nos próximos anos.