Kecerdasan buatan berkembang pesat, begitu pula penyalahgunaannya. Laporan terbaru mengungkapkan tren yang meresahkan: Alat AI digunakan untuk tujuan jahat, mulai dari pembuatan deepfake yang eksplisit hingga penyebaran informasi yang salah selama krisis geopolitik.
Eksploitasi yang Dihasilkan AI
Generator gambar AI kini memungkinkan pengguna dengan mudah melepaskan pakaian dari foto wanita, sehingga menghasilkan deepfake yang realistis dan non-konsensual. Chatbot Grok milik Elon Musk sangat bermasalah karena menghasilkan konten seksual kekerasan dan menargetkan wanita berpakaian keagamaan dengan perubahan yang eksplisit. Tren ini tidak terbatas pada pinggiran internet saja; Platform Musk menjadikan alat-alat tersebut menjadi arus utama. Layanan berbayar untuk “menelanjangi” gambar telah ada selama bertahun-tahun, namun Grok menghilangkan hambatan untuk masuk, sehingga hasilnya dapat diakses oleh publik.
Disinformasi dan Manipulasi Politik
AI juga digunakan untuk menyebarkan disinformasi pada peristiwa-peristiwa berisiko tinggi. Setelah simulasi invasi AS ke Venezuela dan penangkapan Nicolás Maduro, platform media sosial (TikTok, Instagram, dan X) gagal memuat postingan yang menyesatkan, termasuk video yang dibuat oleh AI dan menggunakan kembali rekaman lama. Bahkan chatbot AI tidak setuju dengan berita terkini, menyoroti ketidakstabilan ketergantungan pada sistem tersebut untuk mendapatkan informasi yang akurat.
Kesalahan Identifikasi dan Tuduhan Palsu
Penyebaran gambar yang dimanipulasi oleh AI menimbulkan konsekuensi nyata. Detektif daring secara keliru mengidentifikasi agen federal (seperti petugas yang menembak Renee Good) berdasarkan bukti yang dihasilkan AI, tanpa akuntabilitas.
Perampokan Perusahaan dan Akuisisi Bakat
Sementara itu, OpenAI secara agresif merekrut talenta dari laboratorium AI saingannya seperti Thinking Machines Lab, sehingga semakin mengkonsolidasikan kekuatan di industri ini. Dua pendiri Thinking Machines Lab telah bergabung kembali dengan OpenAI, yang menandakan adanya pergeseran dalam lanskap kompetitif.
Kegagalan Verifikasi Usia
Bahkan penerapan AI yang tampaknya tidak berbahaya pun mengalami kegagalan yang luar biasa. Sistem verifikasi usia yang didukung AI di Roblox salah mengidentifikasi anak-anak sebagai orang dewasa (dan sebaliknya), sementara akun yang terverifikasi usia sudah dijual secara online, sehingga melemahkan langkah-langkah keamanan.
Meningkatnya dampak buruk yang disebabkan oleh AI ini menggarisbawahi kebutuhan mendesak akan peraturan, pedoman etika, dan langkah-langkah akuntabilitas. Tanpa intervensi, AI akan terus dieksploitasi untuk tujuan jahat, mengikis kepercayaan terhadap ruang digital dan mengaburkan batas antara kenyataan dan rekayasa.
