,

Teknologi atau Tipu Daya? Deepfake dan Generasi Digital

deepfake

Pernahkah kamu menyaksikan idolamu melakukan sesuatu yang seharusnya tidak dilakukan? Hal tersebut pasti membuatmu terkejut. Namun, apakah kamu tahu bahwa hal tersebut bisa saja merupakan sebuah perbuatan palsu yang sengaja diciptakan oleh seseorang?

Apa itu Manipulasi AI dan Deepfake?

Di era teknologi yang berkembang pesat saat ini, banyak sekali pihak-pihak yang memanfaatkan teknologi terkini, salah satunya adalah teknologi manipulasi kecerdasan buatan (AI). Menurut KBBI, manipulasi merupakan upaya yang dilakukan oleh suatu pihak untuk memengaruhi perilaku, sikap, dan pandangan orang lain tanpa disadari oleh orang tersebut. Sesuai namanya, manipulasi AI berarti suatu hal yang memanfaatkan teknologi AI untuk memanipulasi pihak tertentu.

Salah satu teknologi dari manipulasi AI ini adalah deepfake yang dapat digunakan untuk membuat foto, video, atau bahkan suara palsu yang tampak nyata dengan sumber aslinya (Vida, 2024). Teknologi ini awalnya banyak digunakan untuk hiburan di media sosial, seperti membuat suara nyanyian kita terdengar lebih bagus atau digunakan untuk meme (gambar lucu). Namun, seiring berjalannya waktu, teknologi ini disalahgunakan oleh pihak-pihak yang tidak bertanggung jawab. Mereka memanfaatkan cepatnya penyebaran informasi di media sosial untuk menjadikan tokoh-tokoh terkenal atau bahkan teman dekatnya menjadi korban dari manipulasi AI.

Penyalahgunaan dan Bahaya Deepfake

Keberadaan teknologi deepfake sangat membahayakan karena dapat menyebabkan kesalahpahaman, tersebarnya informasi palsu, dan bahkan memicu konflik. Contohnya, sempat beredar di media sosial video deepfake yang menyalahgunakan nama Presiden Prabowo Subianto dan Menteri Keuangan Sri Mulyani untuk mengajak masyarakat mendaftar sebagai penerima bantuan pemerintah. Dalam video tersebut, pelaku menyertakan nomor telepon yang bisa dihubungi lewat WhatsApp sebagai media komunikasi. Video manipulasi ini telah berhasil menipu sekitar 100 korban yang diminta untuk mengirim biaya administrasi (Pratiwi, 2025). Kasus ini menunjukkan betapa mudahnya masyarakat termakan hoaks jika tidak memverifikasi terlebih dahulu kebenaran informasinya.

Selain itu, berdasarkan laporan NPR, selama tujuh bulan pertama tahun 2024, Kepolisian Korea Selatan menerima sebanyak 297 pengaduan terkait pelanggaran deepfake pornografi, dengan 178 pelaku yang telah dituduh, dan 113 di antaranya berstatus remaja (Harahap, 2024). Teknologi deepfake ini tidak hanya merugikan masyarakat umum, tetapi juga berisiko melibatkan mahasiswa, baik sebagai korban maupun pelaku.

Di era digital ini, mahasiswa sebagai pengguna aktif media sosial memiliki kerentanan yang tinggi terhadap bahaya deepfake. Kemudahan akses terhadap teknologi ini berpotensi membuat mahasiswa tanpa disadari terlibat dalam pembuatan atau penyebaran konten deepfake, baik yang bersifat politis—karena keinginan untuk selalu up to date dengan situasi terkini—maupun konten pornografi yang menggunakan wajah orang tak bersalah sebagai bentuk balas dendam pribadi. Tanpa memastikan kebenarannya terlebih dahulu, para mahasiswa bisa saja dengan mudah menerima dan ikut menyebarkan informasi palsu tersebut. Di sisi lain, para mahasiswa juga bisa menjadi korban dari konten deepfake yang dapat mencemarkan nama baik dan merusak reputasi mereka. 

Mengapa Literasi Media dan Etika Penggunaan Teknologi AI itu Penting?

Melihat besarnya ancaman dan dampak dari penyebaran deepfake terutama di kalangan mahasiswa, sangat penting untuk menumbuhkan kesadaran sekaligus mengasah keterampilan literasi media dan pemahaman etika dalam menggunakan teknologi AI. Hal ini menjadi semakin penting karena di Indonesia banyak tersebar informasi palsu. Contohnya, pada Oktober tahun 2020 tercatat bahwa Indonesia memiliki 2.020 konten hoaks terkait COVID-19 yang tersebar di media sosial (Rizkinaswara, 2020).

Data ini menunjukkan bahwa literasi media di Indonesia perlu dikembangkan agar masyarakat tidak mudah terjebak oleh deepfake atau terlibat dalam penyebaran konten menyesatkan. Literasi di sini bukan hanya soal membaca atau memahami isi konten, tetapi juga kemampuan untuk berpikir kritis dalam menilai kebenaran informasi, menelusuri sumber asli, dan mengenali ciri-ciri manipulasi AI seperti deepfake. Beberapa ciri umum dari konten deepfake adalah gerakan tidak alami, mata yang kaku atau jarang berkedip, sinkronisasi bibir dengan suara yang tidak sesuai, serta warna dan bayangan yang tidak konsisten (Vida, 2024).

Mahasiswa perlu selalu membiasakan diri dan lebih teliti dalam menggunakan alat seperti Google Reverse Image Search, Turnbackhoax.id, atau bahkan tools deteksi AI seperti sensity.ai untuk menelusuri asal konten dan memverifikasi kebenarannya. Dengan tools tersebut, mahasiswa dapat lebih bijak dalam menerima atau menyebarkan informasi yang beredar di internet.

Selain kemampuan literasi media, pemahaman etika dalam memanfaatkan teknologi AI juga tidak kalah penting. Contohnya, mahasiswa yang sadar dan memilih untuk tidak menggunakan AI ketika mengerjakan ujian online itu menunjukkan sikap yang bertanggung jawab. Perilaku seperti ini mencerminkan kedewasaan dalam menggunakan teknologi AI dan menghormati proses belajar yang jujur. Banyak negara yang mulai menyusun pedoman agar AI digunakan secara bertanggung jawab. Salah satunya adalah Uni Eropa yang telah memberlakukan EU AI Act, yang menekankan prinsip-prinsip dasar seperti transparansi (kejelasan dalam penggunaan teknologi AI), akuntabilitas (tanggung jawab atas dampak yang ditimbulkan), dan perlindungan data (menghormati privasi pengguna) (European Parliament, 2023). Di Indonesia, meskipun belum ada undang-undang khusus, Kementerian Kominfo telah merilis pedoman etika AI, terutama dalam hal perlindungan data pribadi dan persetujuan pengguna (Dhanya, 2023). 

Oleh karena itu, kampus memiliki tugas besar untuk membentuk mahasiswa yang tidak hanya pintar teknologi, tetapi juga memiliki akhlak yang baik di dunia digital. Caranya bisa dengan memasukkan pelajaran tentang literasi digital ke dalam kurikulum, mengadakan diskusi tentang masalah etika pada bidang teknologi, atau memberi pelatihan cara memakai AI dengan benar. Dengan pendidikan seperti ini, lulusan kampus nantinya akan memiliki prinsip yang kuat dalam menggunakan teknologi, dapat memanfaatkan AI untuk hal-hal yang bermanfaat, dan menjadi generasi yang membawa perubahan baik di masyarakat. Dengan menggabungkan pemahaman literasi media digital dan etika, kita dapat menciptakan dunia digital yang lebih aman dan bertanggung jawab untuk semua orang.

Prinsip Islam dalam Menyikapi Deepfake dan Manipulasi Informasi

Dalam menghadapi penyalahgunaan teknologi seperti manipulasi AI dan deepfake, prinsip Islam sangat menekankan pentingnya kejujuran, kehati-hatian, serta menjaga keadilan dan kebenaran. Allah berfirman dalam Q.S Al-Hujurat ayat 6:

يٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٓا اِنْ جَاۤءَكُمْ فَاسِقٌۢ بِنَبَاٍ فَتَبَيَّنُوْٓا اَنْ تُصِيْبُوْا قَوْمًا ۢ بِجَهَالَةٍ فَتُصْبِحُوْا عَلٰى مَا فَعَلْتُمْ نٰدِمِيْنَ 

“Wahai orang-orang yang beriman! Jika seseorang yang fasik datang kepadamu membawa suatu berita, maka telitilah kebenarannya, agar kamu tidak mencelakakan suatu kaum karena kebodohan (kecerobohan), yang akhirnya kamu menyesali perbuatanmu itu.”

Ayat tersebut mengajarkan prinsip tabayyun, yaitu kewajiban untuk selalu mencari kebenaran dari setiap informasi yang diterima, apalagi jika informasi tersebut dapat menimbulkan fitnah atau kerugian bagi pihak lain. Dalam konteks teknologi modern, terutama deepfake, prinsip tabayyun ini sangat sesuai. Sebagai seorang Muslim, kita dituntut agar tidak langsung percaya atau menyebarkan konten-konten yang beredar di internet sebelum memastikan kebenarannya.

Islam mengajarkan bahwa menyebarkan kebohongan adalah suatu perbuatan dosa sehingga menggunakan deepfake dengan niat jahat seperti menipu atau untuk menjatuhkan pihak lain adalah bentuk kezaliman. Dalam hal ini, umat Islam dapat meneladani sifat-sifat wajib Nabi Muhammad SAW, yaitu siddiq (jujur), amanah (dapat dipercaya), tabligh (menyampaikan), fathanah (cerdas). Sifat siddiq dan amanah mengajarkan kita untuk tidak memanipulasi fakta atau menyalahgunakan informasi. Tabligh mengajarkan kita untuk menyampaikan kebenaran, bukan hoaks ataupun fitnah. Sedangkan fathanah, diperlukan untuk berpikir kritis dalam menilai sebuah informasi, termasuk untuk mengenali konten-konten deepfake. 

Kesimpulan

Berdasarkan kasus-kasus penyalahgunaan deepfake yang telah terjadi, kita belajar bahwa teknologi seperti deepfake membawa dampak serius jika disalahgunakan, mulai dari penipuan, penyebaran hoaks, hingga pelanggaran privasi. Oleh karena itu, generasi muda, terutama mahasiswa yang aktif menggunakan media sosial dan internet, perlu meningkatkan literasi media dan pemahaman etika dalam penggunaan AI. Hal ini perlu dilakukan agar mereka bisa lebih bijak dan kritis dalam menerima atau menyebarkan informasi yang beredar di internet.

Selain itu, prinsip tabayyun atau memverifikasi kebenaran informasi menjadi suatu hal yang penting dalam mencegah penyebaran informasi palsu. Sebab, teknologi hanyalah alat yang mencerminkan niat penggunanya, ia bisa menjadi alat untuk untuk menyebarkan kebaikan atau justru menimbulkan kejahatan. Oleh karena itu, sebagai seorang Muslim, kita harus selalu berhati-hati dalam bertindak dan selalu menjunjung tinggi nilai-nilai kebenaran sesuai ajaran Islam dalam menghadapi era digital yang penuh dengan manipulasi dan penyalahgunaan informasi.

Referensi

Penulis (Mahasiswa S-1 Informatika UII):

  1. Naylannajwa Jihana Umma
  2. Riva Aiyatsa Rahani
  3. Erfina Safitri

Proses penulisan artikel ini memanfaatkan AI. Tautan diskusi dengan AI ChatGPT: https://chatgpt.com/share/6819a459-b6a8-8013-8053-9c4c6a6bc52d  

Related posts:

Chess Bot, Bagaimana Komputer Bermain Catur

Pengaplikasian Informasi Berbasis Gambar Animasi

Internet of Things pada Smart City

Manfaat Cloud Computing dalam Pengembangan AI

Pemanfaatan Virtual Reality dan Augmented Reality dalam Bidang Pendidikan

/by