Nadia Nurhalija, S.H
Teknologi deepfake semakin menjadi ancaman serius di dunia digital. Teknologi berbasis kecerdasan buatan (AI) ini memungkinkan manipulasi wajah seseorang dalam gambar atau video secara realistis. Awalnya dikembangkan untuk tujuan positif, kini deepfake kerap disalahgunakan, salah satunya dalam bentuk deepfake pornografi.
Fenomena deepfake pornografi mencuat setelah kasus seorang figur publik di Indonesia, NS, menjadi korban manipulasi teknologi ini. Wajahnya ditempelkan pada video pornografi yang kemudian viral di media sosial. Kejadian ini menjadi bukti bahwa deepfake pornografi dapat merusak reputasi seseorang dalam sekejap.
Dampak dari kejahatan ini sangat luas, mencakup kerugian psikologis, keterasingan sosial, hingga kerugian ekonomi bagi para korban. Korban deepfake pornografi kerap mengalami kehilangan kepercayaan diri dan kesulitan dalam kehidupan sosial maupun profesional mereka.
Pelaku yang membuat dan menyebarkan deepfake pornografi tentu bertanggung jawab atas perbuatannya. Namun, platform media sosial seperti Facebook, Telegram, Instagram, TikTok, dan YouTube juga dinilai memiliki peran besar dalam moderasi konten. Sayangnya, banyak konten deepfake yang lolos dari pengawasan, menimbulkan pertanyaan tentang efektivitas sistem deteksi mereka.
Selain itu, pengelola platform AI yang menyediakan layanan pembuatan deepfake juga harus diawasi. Pemerintah didesak untuk memberikan regulasi yang lebih ketat guna memastikan platform AI mematuhi hukum yang berlaku di Indonesia.
Di Indonesia, regulasi terkait deepfake pornografi sebenarnya sudah ada, tetapi dinilai masih lemah dan belum spesifik. Beberapa undang-undang yang dapat digunakan untuk menjerat pelaku antara lain:
UU Pornografi (No. 44 Tahun 2008) – Melarang produksi dan penyebaran konten pornografi, termasuk deepfake pornografi.
UU ITE (No. 19 Tahun 2016, diperbarui dengan UU No. 1 Tahun 2024) – Pasal 27 Ayat (1) mengatur larangan distribusi konten elektronik bermuatan kesusilaan, termasuk deepfake pornografi.
UU Perlindungan Data Pribadi (No. 27 Tahun 2022) – Melarang pemalsuan data pribadi, termasuk penggunaan wajah orang lain dalam deepfake.
UU KUHP Baru (No. 1 Tahun 2023, berlaku 2026) – Pasal 407 mengatur larangan produksi dan penyebaran pornografi dengan ancaman pidana berat.
Meski terdapat dasar hukum, penegakan masih lemah. Regulasi khusus mengenai teknologi AI dalam konteks deepfake belum tersedia, sementara negara lain sudah mulai merancang kebijakan khusus untuk menangani kejahatan ini.
Selain regulasi yang lebih ketat, masyarakat juga harus berperan aktif dalam melawan penyalahgunaan deepfake. Masyarakat diimbau untuk tidak langsung mempercayai atau menyebarluaskan video yang mencurigakan. Jika menemukan konten deepfake yang merugikan orang lain, masyarakat bisa segera melaporkannya ke pihak berwenang.
Dengan meningkatnya literasi digital dan regulasi yang lebih tegas, diharapkan penyalahgunaan teknologi deepfake dapat diminimalisir. Pemerintah, platform digital, pengelola AI, dan masyarakat harus bersama-sama melawan ancaman ini sebelum dampaknya semakin luas.
Sumber :
https://klikhukum.id/deepfake-pornografi-sebenarnya-merupakan-tanggung-jawab-siapa-sih/
