A inteligência artificial está personalizando rapidamente a Internet, mas à custa do controle do usuário. Milhões de usuários do Google Mail recentemente tiveram resumos por e-mail com tecnologia de IA habilitados por padrão, uma mudança que eles não solicitaram. Isso segue um movimento semelhante do Google dois anos antes, quando as visões gerais de IA – respostas de pesquisa geradas automaticamente – foram adicionadas aos resultados de pesquisa sem uma maneira fácil de desativá-las.
A Meta adotou uma abordagem semelhante, integrando seu chatbot de IA, Meta AI, no Instagram, WhatsApp e Messenger como um recurso não removível. O resultado é uma experiência online cada vez mais personalizada: anúncios, recomendações e até preços variam de usuário para usuário com base em suas interações com esses sistemas de IA.
O ponto principal: essa personalização está acontecendo sem consentimento claro ou opções fáceis de cancelamento.
Sasha Luccioni, pesquisadora de ética em IA da Hugging Face, explica que “essas ferramentas nos são vendidas como mais poderosas, mas temos menos voz nas coisas… Cabe a nós optar por não participar, e geralmente é muito complicado e não está muito claro o que deveríamos optar por não fazer”.
Esta tendência reflete uma mudança mais ampla na tecnologia: as empresas estão a dar prioridade ao envolvimento e à recolha de dados em detrimento da agência dos utilizadores. A Internet está se tornando menos um espaço público compartilhado e mais uma série de bolhas individuais com curadoria algorítmica.
A falta de transparência e controlo levanta preocupações sobre manipulação, preconceitos algorítmicos e erosão da privacidade. Os usuários ficam navegando em um sistema onde seus próprios dados são usados contra eles, moldando sua experiência online de maneiras que talvez nem percebam.
A trajetória atual da indústria sugere um futuro onde a internet se adapta a você, quer você queira ou não.
