Shadow AI: como empresas podem proteger seus dados na era da inteligência artificial?

A IA trouxe inúmeras oportunidades de melhorar a eficiência dos processos no ambiente corporativo. Por outro lado, a disseminação dessa tecnologia também ocasionou alguns problemas. Muitos trabalhadores fazem uso de sistemas de inteligência artificial generativa sem a autorização da empresa, desrespeitando a política de privacidade de dados, o famoso Shadow AI. Segundo levantamento recente da Gartner, até 2026, 5% dos funcionários se envolverão com o uso não autorizado de IA em suas corporações.

Hoje, é preciso lidar com os desafios que envolvem esse tipo de tecnologia, por isso diversas organizações estão implementando medidas de educação e conscientização e investindo em monitoramento.

Quando falamos em ferramentas de IA, como ChatGPT, Midjourney, DALL-E, entre outras, todo cuidado é pouco. Ao alimentá-las com informações do dia a dia de trabalho, muitas vezes, dados confidenciais são expostos. Em primeiro lugar, a empresa deve investir em ações de educação para conscientizar o colaborador sobre os riscos envolvidos no processo. Treinamentos regulares podem ser fundamentais com a finalidade de garantir que todos compreendam as implicações da IA generativa.

Além disso, as diretrizes sobre o uso de IA devem ser comunicadas aos funcionários. Os gestores devem informar a respeito das políticas de segurança de dados. É indispensável estabelecer processos claros de aprovação para a criação e implementação de sistemas de inteligência artificial e adotar práticas de governança eficazes.

Fortalecer ações supervisionando o uso de IA é essencial, o que pode incluir criação de comitês para revisar e aprovar projetos, bem como a nomeação de um profissional responsável por todo o trabalho. Outra medida é integrar o controle de IA às práticas de GRC existentes, isso permite avaliar riscos, definir controles apropriados e acompanhar a conformidade.

Fazer uso de ferramentas de monitoramento e detecção para identificar a presença de Shadow AI na infraestrutura de uma empresa é mais do que necessário atualmente. Análises de logs, tráfego de rede e comportamento de sistemas com o objetivo de encontrar atividades não autorizadas devem envolver a rotina de qualquer negócio.

Imagem: Envato

*Por Fabiano Nagamatsu, diretor da Osten Moove. A Osten Moove faz parte da Osten Group, que está há mais de 20 anos no mercado. Como uma aceleradora venture studio capital, a empresa é focada no desenvolvimento de inovação e tecnologia com estratégias e planejamentos baseados no modelo de negócio da startup.