Berliner Tageblatt - IA pode influenciar nas decisões dos usuários e lucrar com elas, dizem pesquisadores

"Ferramentas estão sendo desenvolvidas para obter, inferir, coletar, registrar, compreender, prever e, em última análise, manipular e mercantilizar" as decisões futuras dos usuários da Internet, explicou Yaqub Chaudhary – um dos coautores do artigo – do Leverhulme Center for o Cambridge's Future of Intelligence (LCFI), um centro multidisciplinar de pesquisa em IA.

Esse comércio estaria focado nas intenções de um internauta, como suas futuras compras ou próximos votos.

Portanto, iria além da prática atual, que busca vender a atenção dos usuários ao melhor licitante, especialmente nas redes sociais, para submetê-los - por exemplo - à publicidade direcionada com base nos seus hábitos de navegação ou no seu histórico.

Especificamente, uma IA poderia coletar dados psicológicos e comportamentais íntimos de um usuário e, em seguida, adaptar-se a eles para estabelecer um alto nível de confiança e influência com mais facilidade, de acordo com os autores do artigo publicado pela Harvard Data Science Review.

"Você já pensou em ir ver o Homem-Aranha hoje à noite?" ou "Você disse que se sente sobrecarregado pelo trabalho, posso reservar aquele ingresso de cinema de que estávamos falando?", citam os autores do artigo como exemplos de sugestão de um "chatbot".

São sugestões de "venda" por meio de um sistema de leilão em tempo real que também podem se referir a um hotel, aluguel de carro ou votação em um candidato.

Esta "economia da intenção", como é chamada pelos pesquisadores, abre caminho a uma potencial "manipulação social em escala industrial", segundo o comunicado que acompanha o artigo.

"Devíamos começar a refletir sobre o impacto de tal mercado nas aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma concorrência leal no mercado", disse Jonnie Penn, co-autor do estudo.

"O que as pessoas dizem quando conversam, a forma como o dizem e o tipo de interferências" possíveis "são muito mais íntimos do que simplesmente gravar interações online", disse Chaudhary.

Os pesquisadores afirmam que empresas como OpenAI (ChatGPT), Shopify, Nvidia, Meta ou Apple começaram a estudar essas "tecnologias persuasivas".

A IA já enfrenta críticas pelas suas capacidades de desinformação, como a manipulação de imagens durante as eleições presidenciais dos Estados Unidos.

T.Bondarenko--BTB