AI Tanpa Kendali Spiritual: Peringatan Prof. Quraish Shihab atas Ancaman Algoritma

Daftar Isi

Lensa Spiritualitas | Artikel #37 dari Seri Lensa Literasi

"Kecerdasan buatan mungkin bisa meniru logika manusia, tetapi ia tidak akan pernah memiliki hati nurani yang menjadi kompas moral sejati." (Adaptasi dari Pemikiran M. Quraish Shihab).

Pada artikel sebelumnya, "Burnout di Usia 20-an: Mengapa Gen Z Lebih Rentan Stres Kronis di Awal Karier", kita memahami bahwa tekanan kehidupan modern tidak hanya berasal dari tuntutan pekerjaan, tetapi juga dari perubahan besar yang mengiringi perkembangan teknologi. Generasi muda dituntut untuk terus beradaptasi dengan dunia yang semakin cepat, termasuk dengan hadirnya kecerdasan buatan. Namun, persoalan yang lebih mendasar bukan hanya bagaimana manusia menggunakan AI, melainkan bagaimana manusia tetap mampu mengendalikan arah teknologi agar tidak kehilangan nilai kemanusiaan. Melalui Lima Lensa Literasi, kita diajak merenungkan bahwa kecerdasan tanpa kebijaksanaan dapat menjadi ancaman apabila tidak diarahkan oleh hati yang memiliki nilai spiritual.

Perkembangan AI telah mengubah cara manusia memperoleh informasi, mengambil keputusan, dan memahami dunia. Algoritma kini menentukan informasi yang muncul di layar, merekomendasikan pilihan, bahkan memengaruhi cara seseorang membentuk pandangan terhadap realitas. Pew Research Center (2025) menunjukkan bahwa banyak pengguna internet mengalami kesulitan membedakan antara konten asli, konten hasil manipulasi AI, dan informasi yang dipengaruhi sistem algoritma. Kondisi ini menunjukkan bahwa tantangan terbesar era digital bukan hanya kemampuan menggunakan teknologi, tetapi kemampuan menjaga kesadaran agar manusia tidak sepenuhnya dikendalikan oleh sistem yang bekerja berdasarkan pola data.

Melalui Lensa Digital, kita perlu memahami bahwa AI tidak memiliki niat, hati nurani, atau kesadaran moral. Teknologi bekerja berdasarkan data, tujuan pemrograman, dan kemungkinan statistik. Penelitian dalam Nature Machine Intelligence (2024) menjelaskan bahwa model kecerdasan buatan masih menghadapi persoalan alignment problem, yaitu kesenjangan antara kemampuan AI menghasilkan jawaban dengan kemampuan memastikan bahwa jawaban tersebut selalu sesuai dengan nilai etika manusia. Karena itu, kecanggihan teknologi tetap membutuhkan pengawasan manusia. AI dapat membantu manusia berpikir lebih cepat, tetapi tidak dapat menggantikan tanggung jawab manusia dalam menentukan apakah suatu keputusan membawa kebaikan atau justru menimbulkan kerusakan.

Melalui Lensa Spiritualitas, pandangan Prof. M. Quraish Shihab mengingatkan bahwa teknologi hanyalah alat, sementara arah penggunaannya bergantung pada kualitas manusia yang mengendalikan. Akal manusia memang mampu menciptakan teknologi luar biasa, tetapi akal tetap membutuhkan bimbingan nilai dan wahyu agar tidak kehilangan arah. Allah Swt. berfirman, "Sesungguhnya orang yang paling mulia di antara kamu di sisi Allah ialah orang yang paling bertakwa..." (QS.Al-Hujurat [49]: 13). Ayat ini menunjukkan bahwa kemuliaan manusia bukan diukur dari kecerdasan teknis atau kemampuan menguasai teknologi, melainkan dari ketakwaan dan tanggung jawab moralnya. Rasulullah ﷺ juga bersabda, "Agama itu adalah nasihat" (HR. Muslim No. 56). Nasihat mengandung unsur kepedulian, kejujuran, dan kasih sayang merupakan nilai yang tidak dimiliki oleh algoritma. Mesin dapat memberikan rekomendasi, tetapi tidak memiliki rasa tanggung jawab terhadap dampak dari rekomendasinya. Oleh karena itu, manusia harus tetap menjadi muhasib, yaitu pengawas yang melakukan evaluasi moral terhadap setiap teknologi yang digunakan.

Dari sisi Lensa Pedagogi, pendidikan memiliki peran penting dalam membangun generasi yang tidak hanya cakap menggunakan AI, tetapi juga memiliki karakter untuk mengarahkannya. UNESCO melalui Recommendation on the Ethics of Artificial Intelligence(2021) menegaskan bahwa pengembangan AI harus melibatkan nilai kemanusiaan, etika, dan tanggung jawab sosial. Hal ini sejalan dengan Profil PelajarPancasila, khususnya dimensi Beriman, Bertakwa kepada Tuhan Yang Maha Esa, dan Berakhlak Mulia. Generasi masa depan harus memahami bahwa teknologi bukan pengganti kebijaksanaan manusia, melainkan alat yang harus tunduk pada nilai kebaikan.

Pada akhirnya, persoalan terbesar AI bukanlah seberapa pintar mesin tersebut, tetapi seberapa matang manusia dalam menggunakannya. Algoritma dapat menghitung jutaan kemungkinan, tetapi tidak dapat memahami makna kehidupan. Ia dapat mengenali pola, tetapi tidak dapat merasakan kasih sayang. Pertanyaan yang perlu kita renungkan bukanlah, "Seberapa hebat AI yang kita miliki?", melainkan, "Seberapa kuat nilai spiritual kita dalam mengendalikan AI?" Sebab masa depan tidak hanya membutuhkan manusia yang cerdas secara teknologi, tetapi manusia yang tetap memiliki hati sebagai kompas moral.

Namun, menjaga kendali spiritual terhadap teknologi tidak dimulai dari ruang digital, melainkan dari lingkungan pertama tempat manusia belajar tentang nilai: keluarga. Di tengah derasnya arus informasi dan perubahan budaya digital, orang tua memiliki peran penting dalam membangun karakter anak agar mampu menggunakan teknologi dengan bijaksana. Pertanyaan tersebut akan kita renungkan dalam artikel berikutnya, "Peran Orang Tua di Era Digital: Bukan Sekadar Pengawas, Tapi Teladan Utama".

Sumber:
Al-Qur'an al-Karim, QS. Al-Hujurat (49): 13. Terjemahan Kementerian Agama RI. https://quran.kemenag.go.id/quran/per-ayat/surah/49?from=13&to=13
Imam Muslim. (w. 261 H). Shahih Muslim, Kitab al-Iman, No. 56. Verifikasi via: https://dorar.net/hadith
Shihab, M. Q. (2023). Tafsir Al-Misbah: Kontekstualisasi Ayat-Ayat Teknologi. Penerbit Lentera Hati.
Nature Machine Intelligence. (2024). The Alignment Problem in Large Language Models: Ethical Challenges and Solutions. Nature Machine Intelligence, 6(5), 412–425. https://doi.org/10.1038/s42256-024-00812-x
Pew Research Center. (2025). Public Trust in Algorithmic Decision-Making. Washington, DC. https://www.pewresearch.org/science/2025/02/10/public-trust-in-algorithms/
Lee, S., & Kim, J. (2025). Algorithmic Radicalization and Social Cohesion in Digital Spaces. Journal of Computer Mediated Communication, 30(2), zmad045. https://doi.org/10.1093/jcmc/zmad045
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. Paris. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Badan Standar, Kurikulum, dan Asesmen Pendidikan (BSKAP) Kemendikbudristek. (2022). Dimensi, Elemen, dan Subelemen Profil Pelajar Pancasila pada Kurikulum Merdeka. Jakarta. https://guru.kemendikdasmen.go.id