Context.id, JAKARTA - Selepas kunjungan dari Indonesia, Papua Nugini dan juga Timor Leste, Sri Paus Fransiskus mendatangi Singapura. Saat di negeri jiran itu, Kamis (12/9) Paus berbicara tentang peran teknologi kecerdasan buatan (AI).   

Melansir Al Jazeera, Paus memperingatkan bahwa AI harus digunakan dalam kerangka membantu manusia sekaligus memberikan catatan soal teknologi yang dapat mengasingkan manusia dari kehidupan bermasyarakat. 

Di Singapura, negara kecil yang sangat makmur, Paus Fransiskus merasa sangat terpesona. Dia memuji pemerintah dan warga Singapura yang sangat cerdas hingga bisa membangun negara kota yang sangat maju. 

Selain memuji, Paus Fransiskus juga memberikan imbauan agar pemerintah dan masyarakat Singapura memberikan perhatian dan rasa kemanusiaan kepada kelompok rentan seperti para pekerja migran. 

Paus tentunya mengetahui bagaimana budaya kehidupan di Singapura baik dalam bidang pendidikan, sosial maupun ekonomi sangatlah kompetitif.   

Sebelum memberikan pernyataan soal AI di Singapura, Paus Fransiskus juga sempat “menguliahi” para pemimpin negara maju yang tergabung dalam kelompok G7 soal AI. Hal itu dilakukannya pada Juni kemarin di Italia. 

Paus Fransiskus adalah pemimpin Vatikan sekaligus umat Katolik sedunia pertama yang menyampaikan pidato di forum yang mempertemukan para pemimpin AS, Inggris, Italia, Prancis, Kanada, Jerman, dan Jepang itu.

Senjata AI

Di hadapan para pemimpin G7, seperti dilansir dari Vatican News, Paus berkomentar soal bahaya AI dan menyerukan larangan terhadap "senjata otonom yang mematikan" yang digerakkan dari jarak jauh. 

Pernyataan Paus ini merujuk pada maraknya penggunaan pesawat nirawak atau drone yang dijadikan senjata militer untuk membunuh para pemimpin negara yang saling berkonflik, seperti kasus pembunuhan beberapa petinggi Hamas Palestina. 

"Mengingat tragedi yang disebabkan oleh konflik bersenjata, sangat mendesak untuk mempertimbangkan kembali pengembangan dan penggunaan perangkat seperti yang disebut 'senjata otonom yang mematikan' dan pada akhirnya melarang penggunaannya," kata Paus Fransiskus. 

Paus Fransiskus memberikan pernyataan yang cukup keras, dengan mengatakan perlunya komitmen yang efektif dan konkret untuk memperkenalkan kontrol manusia yang lebih besar dan tepat.

“Tidak ada mesin yang boleh memilih untuk mengambil nyawa manusia." Tegas Paus Fransiskus. 

AI tidaklah objektif maupun netral

Dalam pidatonya di pertemuan puncak G7, selain membicarakan soal senjata pembunuh, Paus Fransiskus mendedikasikan pidatonya khusus membahas soal AI, mulai dari pengambilan keputusan manusia vs algoritmik, esai yang ditulis oleh AI, dan kondisi tekno- manusia.

Ia mengawali dengan mengatakan bahwa kelahiran AI merupakan “revolusi kognitif-industri yang sesungguhnya” yang akan mengarah pada “transformasi zaman yang kompleks”.

Transformasi-transformasi ini, kata Paus, berpotensi menjadi positif misalnya, demokratisasi akses terhadap pengetahuan, memudahkan penelitian ilmiah dan membantu manusia dari pekerjaan yang menuntut dan sulit. 

'Kondisi tekno-manusia'
Dengan menekankan bahwa AI “pada dasarnya adalah sebuah alat”, Paus berbicara tentang apa yang disebutnya sebagai “kondisi tekno-manusia”.

Ia menjelaskan bahwa ia merujuk pada fakta bahwa hubungan manusia dengan lingkungan selalu dimediasi oleh perangkat yang mereka hasilkan sebagai buah pikir dari kreativitas artistik dan intelektualnya.

Oleh karena itu, Paus meminta manusia jangan tergantung pada  AI, bahkan ditentukan oleh teknologi itu dalam hal pengambilan keputusan. 

AI memang mampu membuat “pilihan algoritmik” atau pilihan “teknis” “di antara beberapa kemungkinan berdasarkan kriteria yang ditetapkan dengan baik. 

“Namun, manusia “tidak hanya memilih, tetapi juga mampu memutuskan dalam hati mereka. Itu karena manusia memiliki kebijaksanaan. Untuk itu keputusan-keputusan penting harus "selalu diserahkan kepada pribadi manusia," ujar Paus seperti dikutip dari Vatican News. 

Sebagai contoh prinsip ini, Paus menunjuk pada pengembangan senjata otonom yang mematikan – yang dapat merenggut nyawa manusia tanpa campur tangan manusia – dan mengatakan bahwa senjata-senjata itu pada akhirnya harus dilarang.

Paus juga menekankan bahwa algoritma yang digunakan oleh kecerdasan buatan untuk membuat pilihan “tidaklah objektif maupun netral.”

Esai yang dihasilkan AI
Paus juga menyoroti fakta bahwa banyak siswa maupun peneliti yang semakin mengandalkan AI untuk membantu mereka dalam studinya, dan khususnya, dalam menulis esai.

Paus mengatakan secara tegas apa yang disebut kecerdasan buatan generatif tidak tidak “mengembangkan analisis atau konsep baru” tetapi justru “mengulang apa yang ditemukannya, dan memberikan bentuk yang menarik.”

Paus mengatakan, hal ini berisiko “merusak proses pendidikan itu sendiri”.

Pendidikan, tegasnya, seharusnya menawarkan kesempatan untuk “refleksi otentik”, tetapi sebaliknya “berisiko direduksi menjadi pengulangan gagasan, yang akan semakin dievaluasi sebagai sesuatu yang wajar, hanya karena pengulangannya yang terus-menerus.”

Pernyataan Paus ini senada dengan temuan dari Harvard Kennedy School yang mendapati banyak makalah penelitian di Google Scholar ternyata buatan AI.

Hal ini tentunya sangat membahayakan karena area yang menjadi penelitian itu kebanyakan dijadikan rujukan pemerintah untuk membuat kebijakan publik. 

Dalam menutup pidatonya, Paus menekankan bahwa etika yang harus memagari AI bukanlah untuk mengekang kreativitas manusia dan cita-cita kemajuannya tetapi menghindari hal yang buruk dari teknologi itu. 

Bagi Bapa Suci, kemajuan teknologi yang dahsyat termasuk AI harus digunakan secara etis, untuk melayani kemanusiaan, dan bahwa risiko yang melekat padanya harus dikurangi. Bagaimanapun, Paus percaya masa depan umat manusia akan ditentukan oleh inovasi teknologi.