Kecerdasan buatan dengan cepat mempersonalisasikan internet, namun mengorbankan kendali pengguna. Jutaan pengguna Google Mail baru-baru ini menemukan ringkasan email bertenaga AI yang diaktifkan secara default, sebuah perubahan yang tidak mereka minta. Hal ini mengikuti langkah serupa dari Google dua tahun sebelumnya, ketika Ikhtisar AI—respons penelusuran yang dihasilkan secara otomatis—ditambahkan ke hasil penelusuran tanpa cara mudah untuk menonaktifkannya.
Meta telah mengambil pendekatan serupa, mengintegrasikan chatbot AI-nya, Meta AI, ke Instagram, WhatsApp, dan Messenger sebagai fitur yang tidak dapat dilepas. Hasilnya adalah pengalaman online yang semakin disesuaikan: iklan, rekomendasi, dan bahkan harga bervariasi dari pengguna ke pengguna berdasarkan interaksi mereka dengan sistem AI ini.
Poin kuncinya: personalisasi ini terjadi tanpa persetujuan yang jelas atau opsi untuk tidak ikut serta dengan mudah.
Sasha Luccioni, peneliti etika AI di Hugging Face, menjelaskan bahwa “alat-alat ini dijual kepada kami sebagai alat yang lebih canggih, namun kami tidak terlalu banyak bicara… Terserah kami untuk tidak ikut serta, dan biasanya cukup rumit dan tidak begitu jelas apa yang harus kami pilih.”
Tren ini mencerminkan pergeseran yang lebih luas dalam bidang teknologi: perusahaan memprioritaskan keterlibatan dan pengumpulan data dibandingkan agen pengguna. Internet tidak lagi menjadi ruang publik bersama, melainkan lebih menjadi serangkaian gelembung individual yang dikurasi secara algoritmik.
Kurangnya transparansi dan kontrol menimbulkan kekhawatiran tentang manipulasi, bias algoritmik, dan terkikisnya privasi. Pengguna dibiarkan menavigasi sistem di mana data mereka sendiri digunakan untuk melawan mereka, membentuk pengalaman online mereka dengan cara yang mungkin tidak mereka sadari.
Perkembangan industri saat ini menunjukkan masa depan di mana internet beradaptasi dengan Anda, baik Anda menginginkannya atau tidak.
