Sistemas de IA: ética, transparência e limites no uso da tecnologia

Bianca Lopes, co-fundadora da AuthentifyIT e membro do conselho do Impact Business Council for AI and ESG da UNESCO, alertou as empresas sobre a importância de considerar “os limites do uso dos dados das pessoas” ao empregar sistemas de IA.

Durante o Web Summit Rio, Bianca abordou a necessidade crítica de transparência e ética em startups impulsionadas por sistemas de IA, destacando que “se sua startup está lidando com dados e modelos de dados, esteja pronto para explicar às pessoas como. E se você acha que isso é IA e tem uma prática de IA, procure contratar alguém que fale sobre ética e responda pelos limites do uso dos dados das pessoas.”

Bianca também falou sobre concepções errôneas comuns na indústria em relação às capacidades da IA, advertindo contra a superestimação do estado atual da tecnologia.

“Muitas vezes, com essas palavras, vêm concepções errôneas. E muitas dessas coisas não são realmente IA. Muitas vezes, são apenas modelos básicos de regressão. Muitos dos dados por aí não são realmente transformadores e inovadores, e muitos dos serviços que estão sendo construídos têm preocupações éticas e proprietárias realmente importantes”, destacou Bianca.

Os comentários da especialista foram feitos como parte de uma discussão mais ampla sobre o hype em torno de sistemas de IA na manhã desta quinta-feira, 18.

Bianca Lopes fala sobre ética em sistemas de IA no Web Summit Rio | Imagem: Divulgação

Lopes, que é uma voz influente no campo da ética em IA, aconselhou as empresas a não se deixarem levar pelo frenesi em torno do termo “IA”, mas sim a adotarem uma abordagem cautelosa e responsável em relação ao uso de dados e algoritmos.

“A empolgação em torno do rótulo ‘IA’ pode obscurecer os reais desafios éticos e práticos que enfrentamos. É vital que as empresas entendam que a tecnologia deve ser usada para o bem da sociedade e não apenas para a maximização dos lucros”. Além disso, Bianca destacou a necessidade de um diálogo contínuo entre as partes interessadas, incluindo empresas, reguladores e especialistas em ética, para desenvolver políticas e práticas que garantam o uso responsável e ético da inteligência artificial. Essa abordagem colaborativa, segundo ela, é fundamental para construir um futuro digital mais ético e sustentável.

O Web Summit Rio termina hoje e o evento reuniu mais de 34.000 pessoas para debater as questões mais urgentes em torno da tecnologia e estabelecer conexões significativas que moldarão o futuro.

Missão da Goakira Omnibiz realizada em parceria com o Ibevar e a FIA LABFIN-PROVAR

Imagem: Divulgação