Deepfake, Hiburan yang Bisa Memanipulasi

Foto : Wajah seseorang yang akan digunakan untuk Deepfake (Sumber : informatika.ciputra.ac.id)

Di era digital saat ini, siapa yang tidak mengenal Artificial Intelligence atau yang biasa disebut ‘AI’? AI ini sudah digunakan di berbagai macam teknologi di dunia. AI juga banyak sekali jenisnya, salah satu yang akan dibahas yaitu Deepfake. Deepfake merupakan jenis AI yang sering digunakan untuk membuat foto, audio, dan video “palsu” yang terlihat maupun terdengar meyakinkan. Deepfake merupakan gabungan dari kata Deep learning dan Fake. Hal tersebut merujuk ke teknik pembuatan konten palsu yang menggunakan AI.

Deepfake pertama kali muncul pada tahun 2017 dan sejak itu menarik perhatian dunia. Deepfake ini awalnya digunakan untuk mengganti wajah aktor di film illegal. Namun seiring waktu, teknologi ini terus berkembang dan menjadi sebuah ancaman yang serius pada keamanan dan kepercayaan publik. Kecanggihan deepfake membuat mata manusia sulit membedakan antara konten yang asli dan palsu, sehingga deepfake ini sering disalahgunakan untuk menyebarkan hoax.

Foto : Cara Kerja Deepfake (Sumber : forbes.com)

Cara kerja dari deepfake melibatkan dua algoritma utama, yaitu generator dan diskriminator. Generator bertugas membuat konten dengan mengambil data dari diskriminator. Diskriminator ini yang menentukan apakah suatu konten itu asli atau palsu. Setiap kali diskriminator berhasil mengidentifikasi suatu konten adalah palsu, informasi tersebut akan digunakan untuk memperbaiki dan meningkatkan kualitas deepfake selanjutnya.

Stanford University dalam publikasinya menyatakan bahwa deepfake tidak hanya menimbulkan kebingungan, skeptisisme, dan penyebaran informasi yang salah, tetapi juga berpotensi menimbulkan ancaman terhadap privasi dan keamanan. Dengan kemampuan untuk menyamar sebagai siapa pun secara meyakinkan, pelaku cybercrime dapat dengan mudah melancarkan serangan phising, scamming, social engineering, identity thief, financial fraud, dan bentuk modus kejahatan online lainnya. Deepfake berbahaya karena dapat membuat orang percaya dan menganggap konten yang dihasilkan itu benar, walaupun kenyataannya tidak.

Apakah deepfake legal? Sayangnya, deepfake umumnya masih dianggap legal. Universitas Sriwijaya menyatakan konsep akuntabilitas deepfake secara internasional dijelaskan dalam Recommendation on the Ethics of Artificial Intelligence. Di Indonesia, konsep akuntabilitasnya diatur dalam UUD 1945, UU No. 39 Tahun 2016 tentang HAM, dan UU No. 19 Tahun 2016 tentang ITE. Namun, regulasinya harus diperjelas karena konsep akuntabilitas dalam hukum internasional hanya bersifat rekomendasi. Sementara itu, dalam sistem hukum Indonesia, peraturannya bersifat multidimensi dan tidak komprehensif. Kurangnya undang-undang yang mengatur penggunaan deepfake menyebabkan korban tidak mendapatkan perlindungan hukum secara menyeluruh.

Penulis : I Nyoman Mahadyana Bhaskara

Editor : Maulina Nur Laila dan Mutiara Noor Fauzia

Referensi:

https://jak101fm.com/2023/10/mengenal-deepfakes-teknologi-ai-yang-sering-digunakan-untuk-menyebar-hoax/

https://www.refoindonesia.com/deepfake-bahaya-dan-cara-menyikapinya/

https://codingstudio.id/blog/deepfake-adalah/

https://informatika.ciputra.ac.id/2021/05/deepfake-bagaimana-mendeteksinya/#
ana-mendeteksinya/#