Umělá inteligence rychle personalizuje internet, ale za cenu ztráty kontroly ze strany uživatelů. Miliony uživatelů Gmailu nedávno zjistily, že funkce automatického shrnutí e-mailů s umělou inteligencí byly ve výchozím nastavení zapnuty, aniž by se jich ptali. Stalo se tak po podobném kroku společnosti Google před dvěma lety, kdy byly do výsledků vyhledávání přidány recenze založené na umělé inteligenci – automaticky generované odpovědi na vyhledávací dotazy – bez snadné možnosti je vypnout.
Meta také zaujala podobný přístup tím, že integrovala svého chatbota Meta AI do Instagramu, WhatsAppu a Messengeru jako nezakázanou funkci. V důsledku toho se online zážitky stále více personalizují, přičemž reklama, doporučení a dokonce i ceny se liší od uživatele k uživateli na základě jejich interakcí s těmito systémy AI.
Klíčový bod: K této personalizaci dochází bez výslovného souhlasu nebo jednoduchých možností odhlášení.
Sasha Luccioni, výzkumník etiky AI ve společnosti Hugging Face, vysvětluje: „Tyto nástroje jsou nám prodávány jako výkonnější, ale máme menší kontrolu nad tím, co se stane… Musíme se jich sami vzdát, a to je obvykle dost obtížné a také není vždy jasné, čeho přesně se musíme vzdát.“
Tento trend odráží širší posun v technologii: společnosti upřednostňují zapojení a sběr dat před autonomií uživatelů. Internet se mění ze sdíleného veřejného prostoru na řadu jednotlivých bublin, algoritmicky přizpůsobených pro každého uživatele.
Nedostatek transparentnosti a dohledu vyvolává obavy z manipulace, algoritmické zaujatosti a narušení soukromí. Uživatelé jsou nuceni procházet systémem, kde jsou jejich vlastní data používána proti nim, a utvářejí tak jejich online zážitek způsobem, o kterém si možná ani neuvědomují.
Současná trajektorie tohoto odvětví naznačuje budoucnost, ve které se internet přizpůsobí vám, bez ohledu na to, co chceš.
