O que considerar ao incorporar IA em seu negócio de varejo?

A inteligência artificial (IA) revolucionou a forma como empresas e indivíduos operam, utilizando dados para alimentar ferramentas que podem analisar, responder, prever e criar de maneira semelhante ao cérebro humano. Hoje, é difícil imaginar qualquer setor onde a IA ainda não tenha sido implantada em alguma instância, incluindo, cada vez mais, o varejo, que recorreu à IA para tudo, desde otimizar a cadeia de suprimentos até personalizar experiências de compra.

Porém, à medida que os varejistas expandem o uso de tecnologias de IA, eles devem estar atentos às implicações legais levantadas por essas ferramentas inovadoras, especialmente à medida que a legislação que governa o treinamento, uso e implementação de tecnologias de IA se desenvolve. Ao contemplar se e como incorporar IA em seus negócios, os varejistas devem considerar o seguinte:

Preocupações com privacidade

O valor da IA reside na riqueza de dados que alimenta suas análises. No entanto, o processamento em massa de dados é uma faca de dois gumes: embora torne a IA mais inteligente, também exige que os varejistas cumpram um crescente conjunto de leis de privacidade domésticas e internacionais que surgiram e evoluíram continuamente nos últimos anos.

Particularmente, os varejistas devem observar de perto os requisitos de coleta, retenção, compartilhamento, transferência e uso relacionados a tipos altamente sensíveis de dados pessoais, incluindo características físicas ou comportamentais identificáveis (como varreduras faciais, de voz e corporais) que podem constituir dados biométricos sob certas leis de privacidade abrangentes e leis de privacidade biométrica em Illinois, Texas e Washington. Isso é válido tanto para os dados usados pelo desenvolvedor da ferramenta de IA para pré-treinar as ferramentas de IA usadas pelo varejista quanto para os dados ingeridos, usados ou compartilhados pelo varejista por meio de seu próprio uso da ferramenta.

A utilidade potencial dos dados biométricos para os varejistas é ampla. Tecnologias de experimentação virtual que permitem aos consumidores se verem usando um item antes de fazer uma compra são interessantes, mas complicadas. Outros varejistas online estão usando dados faciais e corporais para gerar novos recursos físicos e modelos para, entre outros objetivos, aumentar a diversidade e a inclusão de tamanhos nas exibições e experiências de navegação de produtos online.

Em lojas físicas, os varejistas implementaram recursos de checkout sem contato que usam reconhecimento facial e outros dados físicos para identificar os consumidores e cobrar seu método de pagamento. Esses tipos de usos devem ser implementados com cuidado para garantir conformidade com as leis de privacidade relevantes.

Os varejistas também devem estar atentos aos requisitos não biométricos aplicáveis ao processamento de dados físicos e outros dados pessoais. Por exemplo, em certas jurisdições, os indivíduos podem ter um direito de publicidade em sua semelhança; de fato, a legislação bipartidária atualmente perante o Congresso daria às pessoas um direito de propriedade em sua voz e semelhança, e permitiria a criação de representações digitais de pessoas apenas mediante um acordo em que o indivíduo fosse representado por advogado.

Por fim, a complexidade aumenta para os varejistas internacionais. Eles não apenas precisam cumprir requisitos jurisdicionais variados em casa e no exterior em relação à coleta, uso e compartilhamento de dados, mas também precisam cumprir requisitos de transferência de dados entre fronteiras aplicáveis ao compartilhamento de dados entre suas operações internacionais.

Preocupações com viés

A qualidade das saídas de IA depende, em parte, da qualidade dos dados de treinamento da ferramenta. Consequentemente, se uma ferramenta de IA receber dados tendenciosos, poderá produzir resultados tendenciosos, levando a impactos significativos nos varejistas e consumidores.

Uma maneira cada vez mais comum de viés infectar ferramentas de IA no varejo é por meio de sistemas de prevenção de perdas alimentados por IA que monitoram o comportamento do cliente, que foram adotados por uma série de grandes varejistas. A funcionalidade difere entre as ferramentas: algumas rastreiam os movimentos do cliente e alertam a segurança sobre o que a ferramenta considera comportamento suspeito, enquanto outras usam reconhecimento facial para identificar infratores reincidentes em um banco de dados de furtadores conhecidos, notificando a equipe de segurança em caso de correspondência positiva.

O potencial de viés nesses sistemas é evidente. No final de 2023, a Comissão Federal de Comércio (FTC) proibiu a Rite Aid de usar tecnologia de reconhecimento facial para fins de vigilância em suas lojas por cinco anos após descobrir que o sistema de prevenção de perdas da rede de farmácias identificava de forma imprecisa e desproporcional pessoas de cor e mulheres como possíveis furtadores, levando a monitoramento errôneo, buscas e expulsões.

Em sua reclamação, a FTC especificamente citou que a ferramenta dependia de um banco de dados de dezenas de milhares de imagens muitas vezes de baixa qualidade, algumas das quais foram retiradas de câmeras de segurança, câmeras de celular de funcionários e cobertura jornalística. Os varejistas devem exercer cautela na construção ou incorporação de ferramentas de prevenção de perdas semelhantes alimentadas por IA para garantir que sejam criadas e usadas sem viés e com revisão humana próxima.

Leia também: Vieses da Inteligência Artificial – Entendendo os desafios éticos das construções

Preocupações com Propriedade Intelectual

O uso de ferramentas de IA no design de varejo também levanta preocupações relacionadas à aplicabilidade e violação dos direitos de propriedade intelectual dos varejistas. Os direitos de propriedade intelectual no design de varejo já são fracos. No caso Star Athletica v. Varsity Brands, LLC, a Suprema Corte dos EUA decidiu que a proteção de direitos autorais se estende apenas a características de vestuário que possam ser percebidas e protegidas separadamente do “artigo útil” da peça de vestuário em si.

A introdução de IA no processo de design provavelmente apenas enfraqueceria a proteção. Em agosto de 2023, um tribunal federal confirmou a rejeição do Escritório de Direitos Autorais dos EUA a um pedido de registro de direitos autorais, decidindo que obras de arte geradas por IA sem qualquer entrada humana não podem ser protegidas por direitos autorais.

Para proteção por patente – frequentemente procurada por marcas de calçados e equipamentos para atividades ao ar livre por tecnologias, processos e materiais inovadores – existem restrições semelhantes. Na primavera de 2023, a Suprema Corte se recusou a ouvir um recurso de uma decisão de um tribunal inferior que confirmou a decisão do Escritório de Patentes e Marcas Registradas dos EUA de recusar um pedido de patente para uma obra criada autonomamente por uma ferramenta de IA, decidindo que patentes só poderiam ser concedidas a inventores humanos. No entanto, permanece alguma dúvida sobre o grau de entrada humana necessário para conceder proteção a obras geradas por IA. Portanto, os varejistas que usam IA no processo de design devem garantir uma estreita participação humana.

Enquanto o uso de ferramentas de IA pode minar a protegibilidade da propriedade intelectual dos varejistas, também pode, inversamente, sujeitar os varejistas a um maior risco de violação daqueles elementos que são protegíveis. Por exemplo, modelos de IA generativos podem ser treinados usando logotipos ou outro conteúdo ou recursos de terceiros e, como resultado, podem produzir conteúdo que infringe direitos de marca registrada, identidade visual, direitos autorais de publicidade ou outros direitos intelectuais ou proprietários. Dada a acessibilidade generalizada de tais ferramentas de IA, os varejistas devem monitorar de perto possíveis violações para proteger sua marca.

Leia também: INPI registro de marca: saiba tudo sobre o processo

Preocupações Antitruste

Os reguladores estão cada vez mais interessados nos potenciais efeitos anticompetitivos das ferramentas de IA de precificação. Até agora, as alegações de fixação de preços por meio do uso de IA têm se concentrado principalmente na indústria imobiliária. No final de 2023, o Departamento de Justiça dos EUA deu apoio a um grupo de inquilinos que alegavam que seus senhorios haviam enviado informações não públicas sobre oferta, produção e preços para o software da RealPage, Inc., que foi então usado para definir taxas de aluguel artificialmente infladas. Reivindicações semelhantes foram feitas por procuradores-gerais no Distrito de Colúmbia e no Arizona e por inquilinos em Washington.

Em dezembro de 2023, o Comitê do Senado dos EUA sobre a Justiça convocou uma audiência para discutir o impacto da IA no direito do consumidor e da concorrência, com foco particular na fixação de preços, e no início de 2024 um projeto de lei foi apresentado que proibiria especificamente a definição algorítmica de preços. Portanto, embora os varejistas possam ainda não estar na mira dos reguladores antitruste, as ferramentas de precificação de IA devem ser examinadas cuidadosamente à luz do crescente interesse regulatório nesse espaço.

Desde sua chegada em cena em 2023, a IA fez muitas indústrias pensarem profundamente sobre as promessas de eficiência da IA e sobre a melhor forma de implantar a tecnologia de IA em seus negócios. À medida que os varejistas abraçam as inúmeras novas oportunidades apresentadas pelas tecnologias de IA, eles devem continuar a estar cientes de suas obrigações de conformidade para garantir que as ferramentas de IA sejam implementadas de maneira ponderada, responsável e legal.

Imagem: Envato
Informações: Andrew Grant e Anna Stacey para Retail Touch Points
Tradução: Central do Varejo