A inteligência artificial (IA) está cada vez mais presente na rotina das empresas. Para se ter uma ideia, uma pesquisa realizada pela Central do Varejo indica que quase metade dos varejistas já usam o recurso. Além disso, quatro em cada cinco negócios pretendem intensificar a aplicação de IA no dia a dia. 

Diante desse cenário de expansão tecnológica é preciso se preparar para utilizar e administrar a tecnologia da melhor forma possível. Nesse sentido, uma das formas de estabelecer um controle é por meio de uma governança de dados com especificidades para a IA bem estabelecida.

Com ela, é possível assegurar que os dados utilizados são precisos, completos e atualizados, algo essencial para melhorar a performance dos algoritmos.

“Sem uma governança robusta há riscos significativos de violações de privacidade e uso indevido de dados levando a prejuízos financeiros e danos à reputação. As empresas precisam garantir que suas práticas de IA estejam em conformidade com a LGPD para evitar sanções legais”, explica Paulo Simon, diretor de desenvolvimento de negócios da Keyrus. 

Segundo o executivo, o CEO e a liderança sênior são os principais responsáveis por garantir uma governança de IA robusta. O departamento jurídico e o conselho geral avaliam os riscos legais e garantem a conformidade com as regulamentações. Equipes de auditoria validam a integridade dos dados e asseguram o funcionamento adequado dos sistemas de IA. E por fim, o CFO gerencia os custos e riscos financeiros associados às iniciativas da inteligência artificial. 

Simon ainda indica oito práticas de governança de IA que devem ser seguidas

1)  Métricas personalizadas: defina métricas alinhadas aos KPIs e objetivos da organização.

2) Métricas de integridade: implemente uma pontuação de integridade para modelos de IA com métricas intuitivas para facilitar o monitoramento.

3) Monitoramento automatizado: utilize sistemas automáticos para detectar vieses, desvios, desempenho e anomalias, garantindo funcionamento ético.

4) Dashboard visual: use um painel que forneça atualizações em tempo real sobre a integridade e o status dos sistemas de IA para avaliações rápidas.

5) Alerta de desempenho: configure alertas para quando um modelo desviar dos parâmetros predefinidos, permitindo intervenções rápidas.

6) Trilhas de auditoria: mantenha registros acessíveis para responsabilização e análise de decisões.

7) Integração seamless: garanta que a plataforma de governança se integre à infraestrutura existente, facilitando fluxos de trabalho eficientes.

8) Compatibilidade com código aberto: escolha ferramentas compatíveis com várias plataformas para flexibilidade e suporte comunitário.

Fonte: SA + Varejo (POR REPORTAGEM SA+ CONTEÚDO), publicada em 03 de julho de 2024.