HIDUPKATOLIK.COM – Di era kecerdasan buatan, dengan martabat manusia yang terancam terkikis oleh konsentrasi kekuatan teknologi yang sangat besar di luar kendali, dan oleh bentuk-bentuk dehumanisasi baru, Paus Leo XIV mengingatkan kita pada “kewajiban mendesak” untuk tetap menjadi manusia sejati.
Penerus Petrus mengajak kita untuk membiarkan teknologi maju “tanpa membiarkan hati mundur,” bahkan di tengah zaman kita yang penuh dengan polarisasi dan kekerasan, yang menyaksikan perluasan “budaya kekuasaan” dan perang yang direhabilitasi sebagai instrumen politik internasional.
Ia mengajak kita untuk menerima keterbatasan dan kerapuhan umat manusia dan tidak menganggapnya sebagai kesalahan yang harus diperbaiki, seperti yang dilakukan ideologi teknokratis. Paus mendesak kita untuk melihat dunia bukan dari sudut pandang orang-orang yang berkuasa, tetapi dari bawah, melalui mata mereka yang menderita, dimulai dari yang paling lemah.
Kita harus memandang umat manusia, katanya, melalui mata Tuhan, yang mengambil kelemahan kita dan mengubahnya menjadi tempat keselamatan, karena “bahkan ketika mesin unggul dalam efisiensi, wajah manusia yang meminta untuk dipandang tetap menjadi pusat sejarah kita.”
Magnifica Humanitas—Ensiklik pertama Paus Leo XIV—bukanlah teks analitis utama tentang kecerdasan buatan, juga tidak membahas detail proses yang terus berkembang.
Sebaliknya, ini adalah sebuah “ringkasan” yang menerapkan prinsip-prinsip Ajaran Sosial Gereja pada zaman AI kita, mengkonsolidasikan dan memperbarui poin-poin kunci magisterium kepausan.
Teks ini mengakhiri kesalahpahaman mereka yang, karena percaya pada kebebasan pasar dan teknologi baru yang mutlak, cenderung mengabaikan ajaran para Paus tentang perlunya tata kelola bersama manusia atas AI, ekologi integral, struktur ekonomi yang menjadi “struktur dosa,” dan penolakan terhadap perang.
Paus, yang mengambil namanya dari Paus Leo XIII, penulis Rerum Novarum, mengajak kita semua di masa revolusi digital ini untuk mengambil peran aktif. Pembangunan “peradaban kasih,” katanya, dicapai melalui tindakan kesetiaan kecil dan gigih yang mampu membendung dehumanisasi. Tugas ini menyangkut kita semua secara intim, katanya.
Paus Leo mengingatkan kita bahwa “ketidakadilan tidak hanya muncul dari pilihan yang salah dari individu, tetapi juga dari struktur, mekanisme, dan sistem ekonomi dan budaya yang menghasilkan ketidaksetaraan,” dan bahwa “pembangunan tidak benar-benar manusiawi jika meningkatkan konsumsi bagi sebagian orang sementara mengalihkan biaya dan beban kepada orang lain, atau menempatkan seluruh wilayah pada peran bawahan.”
Sayangnya, hal ini sudah terjadi saat ini di bidang teknologi baru dan sumber daya yang dibutuhkannya.
Ensiklik tersebut menyatakan bahwa prinsip kepemilikan pribadi memiliki “peran sosial yang sangat penting” dan didukung oleh Gereja. “Saat ini, di antara barang-barang yang secara universal ditujukan untuk semua orang, kita juga harus memasukkan bentuk-bentuk kepemilikan baru, seperti paten, algoritma, platform digital, infrastruktur teknologi, dan data,” untuk mencegah munculnya atau mengakarnya bentuk-bentuk pengucilan dan perampasan kebebasan yang baru.
Teknologi, katanya, bukanlah alat sederhana; ketika teknologi menjadi standar untuk menilai segala sesuatu, “teknologi mulai mendikte apa yang penting dan apa yang dapat diabaikan,” mereduksi “manusia menjadi sekadar roda gigi dalam sistem yang didorong menuju efisiensi yang semakin besar.”
Saat ini, ia mencatat, kendali atas platform, infrastruktur, data, dan daya komputasi “tidak berada di tangan Negara, tetapi di tangan aktor ekonomi dan teknologi utama.” Perusahaan-perusahaan ini, katanya, menetapkan kondisi akses, aturan visibilitas, dan kemungkinan partisipasi itu sendiri.
“Ketika kekuasaan semacam itu terkonsentrasi di tangan segelintir orang,” kata Paus, “kekuasaan itu cenderung menjadi buram dan menghindari pengawasan publik, meningkatkan risiko bentuk-bentuk pembangunan yang menyimpang yang menimbulkan ketergantungan, pengucilan, manipulasi, dan ketidaksetaraan baru.”
Menegaskan kembali perlunya melampaui teori “perang yang adil,” Paus Leo menyerukan agar penggunaan kecerdasan buatan dalam peperangan tunduk pada batasan etika yang paling ketat, karena “tidak ada algoritma yang dapat membuat perang dapat diterima secara moral.”
Kecerdasan buatan telah menjadi elemen penting dalam membentuk opini publik melalui manipulasi gambar dan konten, sehingga semakin sulit untuk membedakan kebenaran dari kebohongan.
Terdapat juga banyak hal yang belum diketahui mengenai pasar tenaga kerja. Dalam hal ini, ensiklik tersebut mengingatkan bahwa tidak mungkin lagi untuk hanya mengandalkan “tangan tak terlihat” pasar.
Sistem politik memiliki tugas untuk mengarahkan dinamika ekonomi dan teknologi menuju kebaikan bersama, mempromosikan pekerjaan yang bermartabat, inklusi sosial, dan distribusi yang adil atas manfaat inovasi.
Tetap manusiawi, mengatur proses, dan menghindari monopoli yang pada akhirnya meningkatkan kekuasaan segelintir orang dengan mengorbankan kehidupan banyak orang: inilah jalan yang ditunjukkan oleh Paus, yang tidak membangun barikade, juga tidak menolak penggunaan AI secara langsung.
Sebaliknya, Paus Leo menunjukkan banyak aspek positif dan banyak aplikasi bermanfaat dari AI. Pada saat yang sama, ia menjelaskan, tidak cukup hanya mengajukan pertanyaan etis tentang tujuan baik atau buruk penggunaan AI.
Menurutnya, intervensi lebih awal sangat penting, dan mempertanyakan bagaimana suatu sistem dirancang dan gagasan tentang individu dan masyarakat apa yang terkandung dalam data dan model yang memandu sistem tersebut.
Oleh karena itu, ia menyerukan kerangka hukum yang memadai, pengawasan independen, pendidikan pengguna, dan yang terpenting, “sistem politik yang tidak mengabaikan tugasnya.”
Jika tidak, kata Paus Leo XIV, perubahan hanya akan diatur oleh logika teknokratis dan akan disajikan sebagai “perlu dan tak terhindarkan,” yang pada akhirnya akan memaksakan aturan yang “didiktekan” oleh mereka yang memiliki data, infrastruktur, dan daya komputasi.
Oleh karena itu, Paus Leo mengatakan kita harus “melucuti” AI—yaitu, mendiskreditkan “asumsi bahwa kekuatan teknologi secara otomatis memberikan hak untuk memerintah.”
Kita harus melakukan itu, katanya, bukan untuk menolak teknologi, tetapi untuk mencegahnya mendominasi umat manusia dan membukanya untuk diskusi.
Daripada melepaskan kemanusiaan kita, kita harus “memberikan kesaksian tentang keagungan kemanusiaan, di mana Tuhan telah berdiam.”
Andrea Tornielli, Editor Vatican News
