Dorongan pemerintah AS untuk mengintegrasikan kecerdasan buatan ke dalam operasi militer menciptakan dilema besar bagi perusahaan AI: memprioritaskan standar keselamatan atau mendapatkan kontrak pertahanan yang menguntungkan. Ketegangan ini memuncak baru-baru ini ketika Pentagon meneliti Anthropic, sebuah perusahaan AI terkemuka, atas keengganannya untuk berpartisipasi penuh dalam “operasi mematikan” tertentu, yang berpotensi membahayakan kontrak senilai $200 juta. Hal ini memberikan pesan yang jelas kepada perusahaan lain – OpenAI, xAI, dan Google – yang saat ini bekerja sama dengan Departemen Pertahanan dalam proyek-proyek yang tidak rahasia: kepatuhan penuh diharapkan jika mereka meminta izin keamanan tingkat tinggi.
Taruhannya Lebih Tinggi Dari Keuntungannya
Situasinya bukan hanya soal uang. Komitmen Anthropic terhadap keselamatan AI, sebuah sikap yang jarang terjadi dalam industri ini, telah membuatnya bertentangan dengan kebijakan pemerintah mengenai pengembangan AI militer yang tidak dibatasi. Laporan menunjukkan bahwa perusahaan tersebut bahkan mungkin diberi label sebagai “risiko rantai pasokan” – sebutan yang biasanya ditujukan untuk entitas yang terkait dengan negara-negara yang bermusuhan seperti Tiongkok. Hal ini secara efektif akan menghalangi perusahaan pertahanan untuk menggunakan AI Anthropic, sehingga memaksa mereka untuk mencari alternatif dengan lebih sedikit keraguan etis.
Inti permasalahannya adalah apakah upaya mencapai keamanan nasional dapat membenarkan pelanggaran terhadap prinsip-prinsip yang banyak dijunjung oleh para pengembang AI. Pentagon tidak ingin mendengar tentang “pembedaan” atau “perbedaan hukum” ketika aplikasi yang mematikan terlibat. Seperti yang dinyatakan secara blak-blakan oleh seorang pejabat, perusahaan AI harus berkomitmen untuk “melakukan apa pun untuk menang”. Hal ini menimbulkan pertanyaan yang meresahkan: apakah tuntutan pemerintah untuk penggunaan militer akan membuat AI menjadi kurang aman?
Paradoks Keamanan dan Peperangan
Para pemimpin AI sendiri mengakui kekuatan teknologi yang belum pernah terjadi sebelumnya. Banyak perusahaan didirikan atas dasar pemikiran untuk mencapai kecerdasan umum buatan (AGI) – kecerdasan super – sekaligus mencegah dampak buruk yang meluas. Elon Musk, yang pernah menjadi pendukung vokal regulasi AI, ikut mendirikan OpenAI karena takut perkembangan yang tidak terkendali akan menjadi bencana besar.
Anthropic membedakan dirinya dengan mengintegrasikan pagar pengaman ke dalam modelnya, yang bertujuan untuk mencegah eksploitasi oleh pihak jahat. Hal ini sejalan dengan prinsip etika yang dikemukakan beberapa dekade lalu oleh Isaac Asimov dalam hukum robotikanya: AI tidak boleh membahayakan manusia. Namun, desakan Pentagon terhadap penggunaan militer yang tidak dibatasi justru melemahkan landasan ini.
Perlombaan Senjata yang Tak Terelakkan?
AS mungkin akan menggunakan keunggulan AI-nya untuk melawan musuh seperti Venezuela yang relatif impunitas, namun lawan yang canggih pasti akan mengembangkan sistem AI keamanan nasional mereka sendiri. Hal ini akan memicu perlombaan senjata besar-besaran, dimana pemerintah memprioritaskan dominasi militer dibandingkan pertimbangan etis. Pemerintah tampaknya bersedia mendefinisikan ulang batasan hukum untuk membenarkan praktik-praktik yang dipertanyakan, sehingga membuat perusahaan AI yang bersikeras pada standar keselamatan dapat diabaikan.
Pola pikir ini melemahkan upaya menciptakan AI yang aman. Mengembangkan versi teknologi yang sama yang mematikan dan tidak mematikan pada dasarnya bertentangan. Diskusi yang tadinya serius mengenai badan-badan internasional yang mengatur penggunaan AI yang berbahaya telah memudar, digantikan oleh kenyataan suram bahwa masa depan peperangan terkait erat dengan AI.
Implikasi jangka panjangnya sangat mengerikan. Jika perusahaan AI dan pemerintah gagal membendung potensi kekerasan dalam teknologinya, masa depan AI akan menjadi lebih agresif dan tidak dapat diprediksi. Pertanyaannya bukanlah apakah AI akan mengubah peperangan; apakah peperangan akan merusak AI.
Pada akhirnya, dominasi teknologi digital membentuk kembali umat manusia dengan cara yang tidak dapat diubah. Meskipun rezim politik bisa naik dan turun, kebangkitan AI adalah kekuatan yang akan bertahan bahkan lebih lama dari para pemimpin yang paling berkuasa sekalipun. Medan pertarungan sesungguhnya saat ini bukan hanya antar negara, namun antara cita-cita keselamatan dan tuntutan kekuasaan absolut.
