Hari ini kita akan berbicara tentang deepfake, yang sekarang telah menjadi fenomena umum dan cukup umum. Berkat teknologi ini, manipulasi informasi telah mencapai tingkat yang baru.
Apakah Anda melihat Ratu Elizabeth menari di atas meja selama siaran pesan Tahun Baru? Atau mendengarkan pidato Kim Jong-un tentang demokrasi, atau mengagumi Salvador Dali, yang berbicara tentang kematiannya (mengapa dia tidak mempercayainya)?
Semua video luar biasa ini memiliki satu kesamaan - semuanya palsu. Deepfake adalah teknik membuat dan mempublikasikan informasi palsu dalam bentuk video, audio, dan foto. Semakin mudah untuk menemukan materi seperti itu, jadi kami telah menyiapkan untuk Anda instruksi tentang membuat, mengenali, dan mencari video deepfake di Internet.
Baca juga: Blockchains of Tomorrow: Masa depan industri cryptocurrency dengan kata-kata sederhana
Deepfake - apa itu?
Deepfake (Deepfake) sebenarnya adalah materi foto, video atau audio yang tidak asli, palsu, yaitu palsu. Deepfake (gabungan dua kata - deep learning "deep learning" dan fake "fake") menggunakan kecerdasan buatan (AI) untuk deep learning untuk menciptakan kemiripan satu orang dengan orang lain dalam video dan materi media digital lainnya. Itu dibuat oleh algoritme berdasarkan sampel suara, suara, video, atau foto nyata yang digabungkan. Algoritme mengambil informasi yang dipilih dari banyak tempat berbeda dan kemudian menggabungkannya menjadi satu materi. Akibatnya, sesuatu yang baru (palsu) dibuat, yang didasarkan pada kombinasi data nyata yang berbeda.
Tapi itu tidak semua. Deepfake juga bisa "melukis" foto dari awal, misalnya dengan membuat wajah-wajah karakter yang tidak pernah ada.
Apa tujuan dari tindakan seperti itu? Antara lain, Deepfake digunakan untuk menyebarkan informasi yang salah di Internet (misalnya, tentang tokoh atau peristiwa politik), pencurian (misalnya, memalsukan perintah suara) dan membuat pornografi (film dengan selebriti - porno deepfake). Hal ini juga dapat digunakan untuk tujuan pendidikan dan hiburan.
Baca juga: Tentang komputer kuantum dengan kata-kata sederhana
Deepfake - Bagaimana cara kerjanya?
Secara umum, ada dua cara untuk membuat materi deepfake. Metode pertama menggunakan dua algoritma. Pertama, yang pertama (encoder) mencari fitur umum dari dua gambar (yang akan digabungkan menjadi satu), kemudian yang kedua (decoder) dapat mentransfernya ke gambar yang baru dibuat. Misalnya, jika kita ingin membuat video di mana seorang aktor akan bergerak seperti kita, encoder mengambil gerakan dari video di mana kita menari, dan decoder sudah akan menggantikan wajah kita dengan wajah aktor dan membuatnya mereproduksi gerakan kita. . Kuncinya di sini adalah tindakan yang dipilih yang disalin ke gambar baru (misalnya, gerakan, isyarat, ekspresi wajah).
Cara kedua adalah melalui generative adversarial networks (GANs), di mana dua algoritma bekerja sama. Yang pertama disebut generator karena, dengan menggunakan informasi umum, ia menciptakan gambar (misalnya, gambar seseorang) yang menggabungkan fitur-fiturnya yang membedakan (seseorang memiliki tubuh, wajah, mata). Algoritma kedua adalah diskriminator yang mengevaluasi apakah gambar yang diberikan oleh generator itu benar atau tidak.
Seiring waktu, kedua algoritma menjadi lebih maju, sehingga mereka belajar dan memperbaiki diri. Jika generator dilatih sedemikian rupa sehingga diskriminator tidak mengenali foto palsu (menganggapnya asli), proses selesai.
Sejumlah besar perangkat lunak palsu dapat ditemukan di GitHub, sebuah komunitas open source untuk skrip, program, dan kode. Beberapa dari program ini digunakan semata-mata untuk tujuan hiburan, jadi membuat deepfake tidak dilarang, namun banyak di antaranya juga dapat digunakan untuk tujuan kriminal.
Banyak ahli percaya bahwa di masa depan, dengan perkembangan teknologi, deepfake akan menjadi jauh lebih kompleks dan dapat menciptakan ancaman yang lebih serius bagi masyarakat, terkait dengan campur tangan dalam pemilu, penciptaan ketegangan politik, dan kegiatan kriminal.
Baca juga:
Ancaman Deepfake - sejak kapan itu ada?
Untuk pertama kalinya, informasi palsu semacam itu muncul pada tahun 2017. Maka pengguna adalah alias deepfake diterbitkan di Reddit beberapa film porno di mana selebriti terlibat, termasuk Scarlett Johansson, Gal Gadot dan Taylor Swift. Sejak saat itu, industri ini berkembang pesat, karena hampir semua orang bisa merekam film deepfake.
https://youtu.be/IvY-Abd2FfM
Dalam beberapa tahun terakhir, teknologi deepfaking telah berkembang sedemikian rupa sehingga sekarang semakin sulit untuk menentukan apakah itu video palsu atau rekaman asli orang sungguhan. Contohnya dapat berupa video dengan pesan dari Elizabeth II atau pidato Barack Obama, yang dengan cepat dipublikasikan di banyak situs berbeda. Video dengan pernyataan mantan presiden AS tersebut membahas ancaman global yang dapat disebabkan oleh kesalahan informasi dan berita palsu yang dipublikasikan di Internet. Dalam materi yang diterbitkan oleh saluran BuzzFeedVideos, sutradara dan aktor Amerika Jordan Peele menjadi suara presiden Amerika Serikat ke-44. Namun, saat ini kecerdasan buatan sudah mampu menghasilkan suara berdasarkan rekaman arsip seseorang yang seharusnya muncul dalam film palsu.
Teknologi canggih seperti itu dapat menjadi alat berbahaya di tangan penjahat dunia maya dan penipu Internet di masa depan. Publikasi video pidato palsu oleh politisi penting dapat menyebabkan kerusakan nyata di tingkat internasional. Film-film semacam itu, berdasarkan teknologi deepfake, dapat menyebabkan konflik dan skandal diplomatik, dan karenanya memengaruhi opini publik dan perilaku masyarakat.
Ancaman potensial lainnya adalah konten dewasa, yang selalu menghasilkan lalu lintas terbanyak di ruang virtual. Tidak heran teknologi deepfake menghantam Internet begitu cepat. Menurut sebuah laporan oleh perusahaan keamanan siber Belanda Deeptrace, 96% dari video palsu yang dibuat menggunakan teknologi deepfake adalah konten tentang topik tersebut. Paling sering, gambar bintang film, atlet, dan bahkan politisi dan perwakilan pemerintah digunakan untuk produksi materi semacam itu.
Baca juga: Mengapa misi luar angkasa tidak dapat terbang setiap saat: Apa itu jendela peluncuran?
Bagaimana cara membuat deepfake?
Jika ada yang bisa membuat video deepfake, apakah bisa dibuat di rumah juga? Pasti ya, tetapi kualitasnya, tentu saja, tidak akan sempurna. Membuat video semacam itu membutuhkan sumber daya komputasi yang besar dan kartu video yang kuat. Yang biasanya kita miliki di komputer rumah tidak cukup, dan proses pengembangannya sendiri bisa berlangsung selama berminggu-minggu. Kualitas film juga akan meninggalkan banyak hal yang diinginkan - akan ada kesalahan yang terlihat, gerakan mulut mungkin tidak sesuai dengan suara, akan ada tempat yang terlihat di mana konten "lama" tumpang tindih dengan "baru".
Namun, jika kita ingin sedikit "menyentuh" foto atau membuat video deepfake pendek, program untuk ini dapat diunduh langsung ke smartphone. Program yang sangat mudah digunakan akan dalam beberapa menit menghilangkan kekurangan penampilan, mengubah Anda menjadi selebritas terpilih atau membiarkan anjing Anda berbicara dengan suara manusia.
Baca juga:
Bagaimana cara mengenali deepfake?
Video deepfake profesional semakin sulit dikenali. Pada awalnya, algoritme memiliki masalah dengan perilaku dasar (seperti kedipan mata), dan segera jelas bahwa film itu palsu. Kesalahan ini sekarang telah diperbaiki. Karakter palsu berkedip, bergerak secara alami, dan berbicara dengan lancar. Namun, terkadang mereka masih memiliki masalah dengan gerakan mata alami.
Jadi, bagaimana cara mengenali deepfake? Inilah yang harus Anda perhatikan saat menonton video:
- Apakah suara mengikuti gerakan mulut? Terkadang mereka tidak cukup cocok, dan orang dalam video menggerakkan bibir mereka dengan penundaan relatif terhadap suara, atau mengartikulasikan kata-kata dengan tidak benar.
- Segala macam fenomena yang terkesan tidak wajar. Kita berbicara di sini tentang, antara lain, posisi seluruh tubuh atau kepala dalam kaitannya dengan batang tubuh, pantulan cahaya yang salah pada objek, pantulan cahaya yang salah pada perhiasan, dll. Warna kulit yang tidak natural juga bisa menjadi tanda bahwa film tersebut palsu.
- Kualitas audio dan video. Perbedaan di antara mereka akan membantu mendeteksi deepfake. Biasanya soundtrack memiliki kualitas yang lebih buruk.
- Ketidakteraturan gambar. Paling sering, mereka muncul di persimpangan tubuh dan kepala. Ketika kepala selebriti "ditempelkan" ke tubuh lain, kekaburan mungkin muncul di area leher. Terkadang ada lompatan bingkai (intermiten) dan kesalahan bingkai (sudut cahaya, jenis, atau arah berbeda).
- Mengubah hashtag selama video juga dapat berarti bahwa kita memiliki video deepfake.
Saat melihat materi dari sudut pandang deepfake, ada baiknya juga mengandalkan perasaan Anda sendiri. Terkadang kita mendapat kesan bahwa ada sesuatu yang "salah". Ini terjadi, antara lain, ketika emosi orang yang digambarkan di layar tidak sesuai dengan apa yang ditunjukkan oleh ekspresi wajah atau nada suara kepada kita. Ini juga menunjukkan bahwa video tersebut mungkin telah dipalsukan.
Juga menarik:
- 10 hal teraneh yang kami pelajari tentang lubang hitam pada tahun 2021
- Terraforming Mars: Bisakah Planet Merah berubah menjadi Bumi baru?
Bagaimana cara melindungi diri Anda dari deepfake?
Untuk menghindari penipuan palsu yang mendalam, para ahli menyarankan untuk mengikuti langkah-langkah berikut:
- Buat kata atau slogan rahasia dengan orang-orang terkasih, seperti anggota keluarga atau kolega, yang akan membuktikan realitas situasi dengan video atau rekaman. Ini akan memungkinkan Anda untuk dengan cepat memverifikasi kepalsuan situasi dan menghindari, misalnya, pemerasan uang.
- Setuju dengan kerabat atau kolega tentang daftar informasi yang tidak akan pernah ditanyakan melalui pesan, misalnya di jejaring sosial atau SMS. Sangat penting bahwa semua pihak yang berkepentingan diberitahu tentang tingkat bahaya yang sebenarnya.
- Implementasi saluran otentikasi multi-faktor untuk memverifikasi setiap permintaan. Jika komunikasi dimulai dengan pesan teks, maka cara paling aman untuk mengonfirmasi informasi adalah dengan menghubungi pengirim pesan dalam bentuk percakapan melalui saluran komunikasi yang telah disepakati sebelumnya dan aman.
- Peningkatan kompetensi keamanan secara berkesinambungan, misalnya dalam bentuk pelatihan staf tentang keamanan dan kejahatan dunia maya. Meningkatkan kesadaran tentang apa itu deepfake dan bagaimana cara melawan ancaman ini.
- Dukungan dan pengembangan sistem keamanan di lingkungan teknologi informasi dan komunikasi (TIK).
Di mana Anda dapat menemukan deepfake?
Materi palsu dapat ditemukan di mana pun ia dapat menjangkau audiens yang besar, yaitu audiens deepfake potensial. Facebook, Instagram, TikTok, dan situs media sosial lainnya penuh dengan hal semacam ini.
Ini bukan hanya video yang luar biasa, tetapi juga foto dan rekaman audio yang "halus". Beberapa profil selebritas asli terkadang diisi dengan barang-barang deepfake!
Ini bukan satu-satunya tempat di mana Anda dapat menemukan deepfake. Aplikasi untuk smartphone juga didasarkan pada teknologi ini, yang memungkinkan Anda untuk menambahkan kumis dan jenggot atau efek khusus lainnya ke foto (misalnya, penuaan beberapa dekade). Jadi mungkin saja foto terakhir yang Anda terima dari teman Anda sedikit "kurang menarik".
Juga menarik:
- Mengapa bintang-bintang berkelap-kelip?
- Mengapa pesawat ruang angkasa dilengkapi dengan prosesor abad ke-20
Film deepfake tidak hanya pornografi
Penggunaan deepfake bisa positif dan negatif. Film Deepfake bisa menyenangkan atau menghibur. Di sini kita harus menyebutkan video Ratu Elizabeth menari di atas meja selama pesan Tahun Baru. Ini juga tujuan dari kebanyakan modifikasi foto yang kita lakukan dengan aplikasi deepfake di smartphone kita. Itu harus lucu dan menyenangkan.
Materi deepfake juga dapat memainkan peran pendidikan, misalnya, "menghidupkan kembali" artis, penyanyi, atau musisi yang sudah mati. Beberapa museum, khususnya, Museum Salvador Dali di Florida, menggunakan teknologi ini, di mana pengunjung "disajikan" dengan karya-karya mereka oleh seniman itu sendiri, dengan siapa Anda dapat berbicara dan bahkan mengambil gambar.
Teknologi deepfake digunakan dalam generator suara - perangkat yang dirancang untuk orang yang kehilangan kemampuan berbicara. Berkat mereka, orang-orang seperti itu masih dapat berbicara kepada kami dengan suara mereka sendiri. Suara Val Kilmer, yang hilang karena kanker laring, dimodelkan di Top Gun: Maverick.
Sayangnya, kami juga memiliki banyak contoh penggunaan negatif dari deepfaking. Politik adalah contoh di mana informasi palsu semacam ini dapat memiliki konsekuensi global yang luas, seperti mendiskreditkan tokoh masyarakat, mempengaruhi pasar saham, ekonomi atau hasil pemilu, atau bahkan perang dalam perang. Catatan yang disiapkan dengan baik memudahkan untuk memanipulasi opini publik. Perkembangan teknologi yang progresif akan membuat semakin sulit untuk membedakan bahan asli dari yang palsu. Jadi, ini adalah langkah menuju jatuhnya kepercayaan sosial dan kekacauan informasi.
Video deepfake, seperti yang telah kami sebutkan, tersebar luas di industri porno. Paling sering, perubahan itu berupa penggantian wajah aktris/aktor porno dengan wajah selebriti atau bintang film, tentu saja tanpa persetujuan mereka.
Baca juga: Misi Luar Angkasa Berawak: Mengapa Kembali ke Bumi Masih Menjadi Masalah?
Deepfake adalah ancaman nyata bagi kita semua
Deepfake tidak hanya menjadi masalah bagi aktor dan politisi. Siapa pun dapat terpengaruh oleh konten palsu. Unsur pemerasan dan pemerasan dapat berupa video palsu di mana kami melakukan kejahatan atau masuk ke situasi yang ambigu - baik Anda membayar atau kami mengungkapkannya. Jika Anda bekerja dalam bisnis, Anda harus memahami bahwa ada bahaya menggunakan deepfake untuk mendiskreditkan perusahaan di antara rekanannya.
Peningkatan jumlah materi manipulatif juga dapat mempengaruhi kepercayaan dan keyakinan sosial terhadap informasi yang diberikan. Bagaimana Anda bisa percaya sesuatu ketika sebuah film yang menjadi bukti di pengadilan bisa salah dan berita melaporkan tentang peristiwa yang tidak ada?
Teknologi yang memungkinkan Anda membuat gambar, rekaman audio, atau film berbahaya yang karakternya sangat mirip dengan orang lain adalah tingkat ancaman baru dari penjahat dunia maya. Terutama mengingat fakta bahwa di jejaring sosial mereka dapat menarik sumber bahan sumber yang hampir tak terbatas untuk membuat deepfake.
Perangkat lunak pembelajaran mesin dapat mencari Facebook або Instagram, misalnya, dan tangkap foto atau video menarik dari "aktor" potensial. Atas dasar ini, suara, gambar, dan video yang sangat jelas dari orang tersebut dapat dibuat, tetapi dengan daya tarik palsu yang dibuat khusus yang mensimulasikan, misalnya, berada dalam masalah serius - sebagai korban penculikan atau kecelakaan. Pada tahap selanjutnya, permintaan bantuan palsu, misalnya keuangan, yang ditujukan kepada kerabat "korban", dibuat.
Baca juga: Teleskop Luar Angkasa James Webb: 10 target untuk diamati
Pertarungan melawan deepfake
Aliran informasi palsu begitu besar sehingga banyak jejaring sosial memutuskan untuk melawan deepfake. Facebook і Twitter mencoba mendeteksi video palsu dan menghapusnya secara otomatis. Perusahaan besar (termasuk Microsoft atau Amazon) berinvestasi pada perangkat lunak yang dapat mendeteksi konten palsu. Para ilmuwan juga sedang mencari solusi untuk masalah ini.
Namun, dalam situasi di mana aplikasi smartphone cukup untuk membuat film palsu, melawan deepfake seperti melawan kincir angin. Juga tidak ada norma hukum yang akan menentukan konsekuensi dari memanipulasi informasi atau menggunakan citra orang lain dengan cara ini.
Deepfake menjadi semakin populer, dan semakin sulit untuk membedakannya dari kebenaran. Hal ini disebabkan oleh peningkatan teknologi yang dapat meniru gerakan dan gestur manusia dengan lebih baik. Deepfake dapat digunakan untuk tujuan yang baik, seperti membuat materi pendidikan atau membantu orang yang kehilangan suara setelah operasi laring, tetapi juga alat untuk peretas, pemeras, dan troll internet.
Jadi, jika Anda menemukan video yang luar biasa lagi di Internet, periksa dulu apakah video tersebut terkadang dimodifikasi atau palsu. Mungkin apa yang Anda lihat tidak pernah dalam kenyataan!
Baca juga:
- 100 Tahun Fisika Kuantum: Dari Teori 1920-an ke Komputer
- 5 misi luar angkasa masa depan untuk dipikirkan
Namun, jangan lupa bahwa ada perang yang terjadi di Ukraina. Jika Anda ingin membantu Ukraina memerangi penjajah Rusia, cara terbaik untuk melakukannya adalah dengan menyumbang ke Angkatan Bersenjata Ukraina melalui selamatkan hidup atau melalui halaman resmi NBU.