Штучний інтелект стрімко персоналізує Інтернет, але ціною втрати контролю з боку користувачів. Мільйони користувачів Gmail нещодавно виявили, що функції автоматичного підсумку електронної пошти на основі штучного інтелекту ввімкнено за замовчуванням, не запитуючи їх. Це слідує за подібним кроком Google два роки тому, коли огляди на основі штучного інтелекту — автоматично створені відповіді на пошукові запити — були додані до результатів пошуку без простої можливості їх вимкнути.
Meta також застосувала подібний підхід, інтегрувавши свій чат-бот Meta AI в Instagram, WhatsApp і Messenger як невимкнену функцію. Як результат, онлайн-досвід стає все більш персоналізованим, з рекламою, рекомендаціями та навіть цінами, що відрізняються від користувача до користувача залежно від їх взаємодії з цими системами ШІ.
Ключовий момент: ця персоналізація відбувається без явної згоди або простих варіантів відмови.
Саша Лучіоні, дослідник етики штучного інтелекту в Hugging Face, пояснює: «Ці інструменти продають нам як більш потужні, але ми маємо менше контролю над тим, що відбувається… Ми самі повинні відмовитися від них, і це зазвичай досить важко, і також не завжди зрозуміло, від чого саме нам потрібно відмовитися».
Ця тенденція відображає ширший зсув у технологіях: компанії віддають перевагу взаємодії та збору даних, а не автономії користувачів. Інтернет перетворюється зі спільного публічного простору на серію окремих бульбашок, алгоритмічно налаштованих для кожного користувача.
Відсутність прозорості та нагляду викликає занепокоєння щодо маніпуляцій, упередженості алгоритмів і порушення конфіденційності. Користувачі змушені переміщатися в системі, де їхні власні дані використовуються проти них, формуючи їх онлайн-досвід таким чином, про який вони можуть навіть не підозрювати.
Поточна траєкторія розвитку галузі передбачає майбутнє, в якому Інтернет адаптується до вас, незалежно від того, чого ви хочете.
