Pada masa modern ini, kita dikejutkan dengan perkembangan pesat AI (Artificial Intelligence atau kecerdasan buatan) pada bidang visualisasi gambar. AI dengan kecanggihannya dapat menghasilkan (generate) sebuah perintah (prompt) untuk mengganti wajah di dalam gambar dengan wajah yang lainnya. Perkembangan ini tak hanya memiliki dampak positif, tetapi juga membawa dampak negatif. Penggunaan wajah yang digantikan menggunakan AI, dalam hal ini adalah deepfake, dapat berbenturan dengan hukum yang ada. Seseorang dapat dengan bebas menggunakan fitur AI dengan mengganti wajah orang lain tanpa izin untuk memuaskan dirinya atau untuk memperoleh keuntungan bagi dirinya. Hal ini menjadi tantangan baru di tengah kemajuan teknologi dan oleh karenanya mari kita pelajari apa itu deepfake, dasar hukum mengenai tindakan ini, dan apa yang kita bisa lakukan jika kita menjadi orang yang wajahnya digunakan dalam deepfake.

Apa itu Deepfake?

Menurut Cambridge Dictionary, deepfake adalah “rekaman video atau suara yang menggantikan wajah atau suara seseorang dengan wajah atau suara orang lain, sehingga tampak nyata.” Dalam konteks kekerasan berbasis gender online (KBGO), tindakan ini mengacu pada gambar yang dimanipulasi secara digital yang menampilkan wajah yang nyata dan dapat dikenali, kemudian ditempelkan pada tubuh orang lain yang melakukan aktivitas seksual secara eksplisit. Penting untuk dicatat bahwa gambar yang diubah berbeda dari pornografi tradisional, karena gambar tersebut tidak menggambarkan aktivitas seksual yang sebenarnya, tetapi masih menyebabkan kerugian yang signifikan terhadap orang yang digambarkan.

Bagaimana Dampak Deepfake Terhadap Targetnya?

Deepfake memiliki dampak yang serius, antara lain:

• Korban deepfake menjadi sasaran ujaran kebencian. Jika orang lain menganggap hasil deepfake sebagai nyata, mereka dapat menyerang korban secara tatap muka atau online. Padahal, korban tidak pernah melakukan tindakan dalam gambar deepfake dan tidak pernah memberikan izin bagi pembuat gambar deepfake tersebut untuk menggunakan wajahnya.
• Jika gambar deepfake melibatkan pornografi, reputasi korban dapat hancur karena masyarakat menganggapnya melanggar norma. Korban juga dapat menjadi sasaran bentuk kekerasan seksual lainnya, seperti memperoleh komentar-komentar yang berbau seksual tanpa persetujuan/izinnya.
• Jika digunakan sebagai alat propaganda dalam dunia politik, deepfake dapat menjatuhkan reputasi figur-figur politik tertentu dengan menyebarkan berita palsu (hoaks).
• Semua dampak di atas dapat membuat korban merasakan kerugian psikologis (cemas, takut, depresi), kerugian sosial (merasa terasingkan dari orang-orang di sekitarnya), dan kerugian ekonomi (kehilangan pekerjaan). Kepercayaan korban deepfake dalam menggunakan teknologi digital juga akan menurun atau menghilang.

Apa Kata Hukum Indonesia Tentang Deepfake?

Tindakan mengenai deepfake, yang dalam hal ini mengganti wajah orang sehingga tampak nyata, diatur di dalam pasal 35 UU ITE: “Setiap Orang dengan sengaja dan tanpa hak atau melawan hukum melakukan manipulasi, penciptaan, perubahan, penghilangan, pengrusakan Informasi Elektronik dan/atau Dokumen Elektronik dengan tujuan agar Informasi Elektronik dan/atau Dokumen Elektronik tersebut dianggap seolah-olah data yang otentik.” Yang dimaksud dengan informasi elektronik dalam pasal ini adalah satu atau sekumpulan data elektronik, termasuk tetapi tidak terbatas pada tulisan, suara, gambar, peta, rancangan, foto, Electronic Data Interchange (“EDI”), surat elektronik (Electronic mail), telegram, teleks, telecopy atau sejenisnya, huruf, tanda, angka, kode akses, simbol, atau perforasi yang telah diolah yang memiliki arti atau dapat dipahami oleh orang yang mampu memahaminya (Pasal 1 ayat 1 Undang-Undang Nomor 19 Tahun 2016 Tentang Perubahan Atas Undang-Undang Nomor 11 Tahun 2008 Tentang Informasi dan Transaksi Elektronik). Tindakan ini diancam dengan hukuman pidana dengan penjara paling lama 12 tahun atau denda paling banyak Rp12.000.000.000,00 (dua belas miliar rupiah) berdasarkan pasal 51 UU ITE.

Penggunaan wajah dan suara dalam deepfake juga dapat menimbulkan masalah. Pasalnya, wajah dan suara seseorang tergolong dalam data pribadi dan dilindungi oleh undang-undang. Jika data ini digunakan untuk keuntungan pribadi dan tanpa izin pemilik data, pelaku bisa memperoleh sanksi yang berat. Hal ini diatur dalam Pasal 66 Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (PDP): “Setiap Orang dilarang membuat Data Pribadi palsu atau memalsukan Data Pribadi dengan maksud untuk menguntungkan diri sendiri atau orang lain yang dapat mengakibatkan kerugian bagi orang lain.” Sanksi bagi tindakan hukum ini diatur dalam Ketentuan Pasal 68 UU PDP: “… Sebagaimana dimaksud dalam Pasal 66, dipidana dengan pidana penjara paling lama 6 (enam) tahun dan/atau pidana denda paling banyak Rp6.000.000.000,00 (enam miliar rupiah).”

Lebih lanjut, konten deepfake yang dilakukan untuk tujuan konten pornografi dapat dikenakan ketentuan-ketentuan yang diatur dalam Pasal 4 UU Pornografi dan dapat dikenakan sanksi paling singkat 6 bulan dan paling lama 12 tahun dan/atau pidana denda paling sedikit Rp250 juta dan paling banyak Rp6 miliar (Pasal 29 UU Pornografi). Konten deepfake pornografi juga melanggar Pasal 407 UU No .1/2023 atau KUHP baru yang mulai berlaku pada tahun 2026. Sanksi dari pasal tersebut adalah pidana penjara paling singkat 6 bulan dan pidana penjara paling lama 10 tahun atau pidana denda paling sedikit Rp200 juta dan pidana denda paling banyak Rp2 miliar (Pasal 79 ayat (1) KUHP Baru).

Bagaimana Kita Dapat Menghindari Deepfake?

Deepfake merupakan tindakan yang tidak dapat dicegah atau dihentikan sepenuhnya karena adanya kebebasan penggunaan teknologi. Namun, ada beberapa hal yang bisa kita lakukan untuk mengurangi kemungkinan deepfake terjadi:

• Edukasi mengenai penggunaan teknologi digital secara terus menerus sehingga masyarakat memiliki pemahaman dalam menggunakan kemajuan teknologi tersebut. Dalam konteks deepfake, individu diharapkan untuk tidak menggunakan data pribadi orang lain (seperti wajah dan suara) yang bukan merupakan haknya untuk digunakan sebagai sesuatu yang menguntungkan diri sendiri.
• Membentengi diri dengan bersikap secara bijak dan berhati-hati dalam setiap tindakan yang dilakukannya di internet. Misalnya, seseorang dapat menggunakan fitur privasi akun agar orang yang bisa mengakses informasi pribadinya terseleksi.
• Kemajuan teknologi dapat digunakan secara positif apabila terdapat persetujuan dari pemilik data pribadi dan tujuan dari konten tersebut adalah untuk tujuan yang baik.