L’intelligence artificielle personnalise rapidement Internet, mais au détriment du contrôle des utilisateurs. Des millions d’utilisateurs de Google Mail se sont récemment retrouvés avec des résumés d’e-mails alimentés par l’IA activés par défaut, un changement qu’ils n’ont pas demandé. Cela fait suite à une décision similaire de Google deux ans auparavant, lorsque les aperçus de l’IA (réponses de recherche générées automatiquement) ont été ajoutés aux résultats de recherche sans moyen simple de les désactiver.
Meta a adopté une approche similaire, en intégrant son chatbot IA, Meta AI, dans Instagram, WhatsApp et Messenger en tant que fonctionnalité non amovible. Le résultat est une expérience en ligne de plus en plus personnalisée : les publicités, les recommandations et même les prix varient d’un utilisateur à l’autre en fonction de leurs interactions avec ces systèmes d’IA.
Le point clé : cette personnalisation se produit sans consentement clair ni options de désinscription faciles.
Sasha Luccioni, chercheuse en éthique de l’IA chez Hugging Face, explique que « ces outils nous sont vendus comme plus puissants, mais nous avons moins notre mot à dire… C’est à nous de nous retirer, et c’est généralement assez compliqué et pas très clair de quoi nous devrions nous retirer.
Cette tendance reflète un changement technologique plus large : les entreprises donnent la priorité à l’engagement et à la collecte de données plutôt qu’à l’agence des utilisateurs. Internet est de moins en moins un espace public partagé et davantage une série de bulles individuelles organisées de manière algorithmique.
Le manque de transparence et de contrôle suscite des inquiétudes quant à la manipulation, aux biais algorithmiques et à l’érosion de la vie privée. Les utilisateurs doivent naviguer dans un système dans lequel leurs propres données sont utilisées contre eux, façonnant leur expérience en ligne d’une manière dont ils ne se rendent peut-être même pas compte.
La trajectoire actuelle du secteur suggère un avenir dans lequel Internet s’adaptera à vous, que vous le vouliez ou non.
