Bahaya Deepfake: Dari Penyebaran Informasi Palsu sampai Pelanggaran Privasi

Kemajuan teknologi telah membawa banyak perubahan signifikan dalam berbagai aspek kehidupan kita. Salah satu perkembangan teknologi yang sangat menonjol adalah Deepfake, teknik manipulasi media digital. Simak artikel berikut untuk mengetahui bahaya Deepfake, penggunaan negatifnya, hingga cara mendeteksi sebuah konten yang dibuat oleh Deepfake.

Apa itu teknologi Deepfake?

Deepfake adalah gambar,rekaman suara atau video palsu yang dihasilkan dari bentuk kecerdasan buatan (AI/Artificial Intelligence) yang disebut deep learning. Gambar dan video palsu yang dimanipulasi ini dipakai untuk tujuan-tujuan yang berbahaya, seperti keuangan, manipulasi politik hingga balas dendam.

Pada bulan September 2019, perusahaan AI Deeptrace menemukan 15.000 video deepfake secara online. Sebagian besar adalah konten porno, dan 99% di antaranya menampilkan wajah-wajah yang dipindahkan dari selebritas wanita ke bintang porno.

Dengan metode baru yang memudahkan para amatir untuk membuat Deepfake dari beberapa gambar, video palsu diperkirakan akan menyebar lebih luas dan menjadi bahan untuk balas dendam pornografi. Teknologi Deepfake dapat digunakan untuk menghasilkan video realistis dari seseorang, seakan-akan mereka mengatakan atau melakukan sesuatu yang tidak pernah mereka katakan atau lakukan.

Hal ini dapat dilakukan dengan memodifikasi video untuk menghasilkan versi palsu baru yang terlihat nyata. Hasil ini didapat karena algoritma artificial intelligence untuk menganalisis dan meniru gerakan dan ekspresi wajah orang tersebut dalam rekaman aslinya.

Teknik manipulasi audio dan video sudah ada sejak lama. Sebagai contoh, software pengeditan gambar telah digunakan oleh orang-orang untuk membuat meme sejak awal internet. Selain itu, teknik pengeditan grafis telah digunakan dalam film untuk menutupi masalah teknis. Perluasan dari hal ini yang dapat digunakan untuk mengelabui orang lain adalah deepfakes, yang dihasilkan oleh kecerdasan buatan.

Penggunaan negatif dari teknologi Deepfake

• Digunakan untuk memproduksi konten dewasa yang fiktif dan melanggar privasi dan martabat orang biasa atau selebriti tanpa persetujuan mereka.
• Berpotensi menyesatkan dan memanipulasi publik dengan menyebarkan berita palsu dan informasi yang salah. Dengan menggunakan deepfakes, seseorang dapat membuat pidato, wawancara, atau acara fiktif yang menampilkan politisi, selebritas, atau orang berpengaruh lainnya.
• Merusak demokrasi dan stabilitas sosial dengan menghasut kekerasan, memengaruhi opini publik, atau mengganggu pemilihan umum karena memungkinkan pertukaran wajah dan modifikasi suara.
• Dapat digunakan untuk memfitnah atau menyamar sebagai orang, perusahaan, atau merek untuk merusak kredibilitas dan reputasi mereka.

Bahaya Deepfake

Tidak semua orang menyadari risiko yang terkait dengan bahaya Deepfake, dan ini adalah ancaman. Yang kamu lihat secara online yang tidak dapat dijamin kebenarannya, dan Deepfake secara efektif mempersempit perbedaan antara konten yang palsu dan asli.

Teknologi Deepfake banyak disalahgunakan oleh para penjahat siber, meskipun faktanya teknologi ini dapat digunakan untuk inisiatif hiburan yang kreatif. Selain itu, keadaan mungkin akan menjadi tidak terkendali dengan cepat jika penegak hukum tidak cukup mengawasi teknologi Deepfake.

Deepfake dapat digunakan dengan mudah untuk menyebarkan informasi palsu sehingga terjadi penipuan. Orang-orang dapat terus menganggap hal-hal tertentu sebagai sesuatu yang benar meskipun kemudian terbukti sebagai deepfake karena hal tersebut masih tertanam dalam ingatan mereka.

Selain menyebarkan informasi palsu, teknologi deepfake juga dapat digunakan untuk tujuan jahat lainnya. Salah satu masalah paling signifikan yang ditimbulkan oleh teknologi Deepfake adalah pencurian identitas.

Penjahat siber akan merasa sangat mudah untuk menyamar sebagai orang sungguhan untuk mendapatkan keuntungan finansial, yang pada akhirnya dapat menyebabkan peningkatan penipuan online. Selain itu, konten pornografi dapat diproduksi dengan menggunakan teknologi Deepfake, yang berpotensi mengarah pada perdagangan manusia secara online.

Kemajuan teknologi memang penting, tetapi penting juga untuk menerapkan langkah-langkah pencegahan untuk memastikan bahwa teknologi ini tidak disalahgunakan oleh penjahat. Sementara itu, meningkatkan kesadaran akan keberadaan Deepfake dan potensi risikonya dapat membantu kita untuk mengonsumsi konten online dengan lebih berhati-hati.

Bagaimana cara mendeteksi sebuah konten yang dibuat oleh teknologi Deepfake?

Seiring dengan kemajuan teknologi, hal ini menjadi semakin sulit. Para peneliti AS menemukan pada tahun 2018 bahwa pola kedipan wajah Deepfake tidak normal. Tidak mengherankan, karena sebagian besar foto menampilkan manusia dengan mata terbuka, algoritma tidak pernah benar-benar bisa mempelajari cara berkedip.

Pada awalnya, hal ini tampak sebagai solusi untuk masalah pendeteksian. Namun, segera setelah penelitian ini dirilis, pemalsuan berkedip mulai muncul ke permukaan. Beginilah cara kerja permainan ini, begitu sebuah kerentanan teridentifikasi, maka akan segera diatasi.

Deepfake dengan kualitas rendah lebih mudah dikenali. Mungkin terdapat warna kulit yang tidak merata atau sinkronisasi bibir yang buruk. Deepfake memiliki waktu yang sangat sulit untuk merender detail kecil seperti rambut, terutama ketika helaian rambut terlihat jelas di pinggirannya.

Gigi dan perhiasan yang digambarkan secara tidak akurat juga bisa menjadi masalah besar. Begitu juga dengan efek pencahayaan yang aneh, seperti pencahayaan yang tidak merata dan pantulan pada iris mata.

Itu dia pemaparan mengenai bahaya Deepfake yang dapat mengancam privasi kita. Dampaknya meluas, dari penyebaran informasi palsu hingga pelanggaran privasi. Temukan jawaban atas pertanyaanmu mengenai virtual reality, augmented reality dan teknologi lainnya di blog MetaNesia!

MetaNesia adalah platform dunia metaverse yang menciptakan interaksi virtual di mana pengguna dapat berinteraksi, berkolaborasi, dan berkreasi dengan lingkungan digital yang mendukung. Apabila kamu tertarik untuk menjual produk digital atau menjalin kerja sama dengan MetaNesia, kamu dapat bergabung dengan menghubungi Customer Service kami melalui WhatsApp untuk bertanya. Kamu juga dapat berkonsultasi dengan pihak MetaNesia secara gratis.

Kamu juga bisa merasakan pengalaman di dunia virtual dengan mengunduh aplikasi MetaNesia melalui website kami. Ayo rasakan pengalaman yang belum pernah kamu coba sebelumnya melalui MetaNesia!