Sztuczna inteligencja szybko personalizuje Internet, ale kosztem utraty kontroli po stronie użytkowników. Miliony użytkowników Gmaila odkryło niedawno, że funkcje automatycznego podsumowania wiadomości e-mail oparte na sztucznej inteligencji są domyślnie włączone bez ich pytania. Jest to następstwem podobnego posunięcia Google dwa lata temu, kiedy recenzje oparte na sztucznej inteligencji – automatycznie generowane odpowiedzi na zapytania – zostały dodane do wyników wyszukiwania bez możliwości łatwego ich wyłączenia.
Meta również przyjęła podobne podejście, integrując swojego chatbota Meta AI z Instagramem, WhatsApp i Messengerem jako funkcję, która nie jest wyłączona. W rezultacie doświadczenia online stają się coraz bardziej spersonalizowane, a reklamy, rekomendacje, a nawet ceny różnią się w zależności od użytkownika w zależności od jego interakcji z systemami sztucznej inteligencji.
Kluczowy punkt: Ta personalizacja odbywa się bez wyraźnej zgody lub prostych opcji rezygnacji.
Sasha Luccioni, badaczka ds. etyki sztucznej inteligencji w Hugging Face, wyjaśnia: „Sprzedaje się nam te narzędzia jako potężniejsze, ale mamy mniejszą kontrolę nad tym, co się dzieje… Sami musimy z nich zrezygnować, a to zwykle jest dość trudne, a poza tym nie zawsze jest jasne, z czego dokładnie powinniśmy zrezygnować”.
Tendencja ta odzwierciedla szerszą zmianę technologiczną: firmy przedkładają zaangażowanie i gromadzenie danych nad autonomię użytkowników. Internet przekształca się ze wspólnej przestrzeni publicznej w ciąg indywidualnych baniek, algorytmicznie dostosowanych do każdego użytkownika.
Brak przejrzystości i nadzoru budzi obawy dotyczące manipulacji, stronniczości algorytmicznej i erozji prywatności. Użytkownicy zmuszeni są poruszać się po systemie, w którym ich własne dane są wykorzystywane przeciwko nim, kształtując ich doświadczenia online w sposób, z którego mogą nawet nie być świadomi.
Obecna trajektoria branży sugeruje przyszłość, w której Internet dopasowuje się do Ciebie, niezależnie od tego, czego chcesz.
