Sebuah foto "ledakan" di dekat Pentagon, yang dihasilkan oleh AI, menjadi viral Twitter

Baru-baru ini di Twitter sebuah foto muncul, yang, seperti disebutkan dalam deskripsi, menggambarkan ledakan yang terjadi di dekat Pentagon. Karena itu, bahkan terjadi penurunan jangka pendek di pasar - indeks S&P 500 turun 0,29%, tetapi setelah ternyata foto itu palsu, indeks tersebut pulih. Gambar itu diposting oleh akun Bloomberg Feed yang terverifikasi, yang meskipun diberi tanda centang biru, tidak berafiliasi dengan perusahaan media Bloomberg.

Foto itu dengan cepat dikenali sebagai palsu. Itu tampaknya dihasilkan dengan bantuan kecerdasan buatan. Namun sebelum detail ini muncul, disinformasi telah disebarkan oleh berbagai akun, termasuk bajingan Russia Today (ya, siapa sangka).

Gambar palsu itu menunjukkan kepulan asap hitam besar di samping sebuah bangunan yang samar-samar menyerupai Pentagon, dengan teks yang menyertainya. Setelah diperiksa lebih dekat, otoritas lokal mengonfirmasi bahwa gambar itu bukan representasi akurat dari Pentagon, dan tiang pagar yang buram serta kolom bangunan tampak seperti gambar yang agak ceroboh yang dibuat menggunakan model AI seperti Stable Diffusion.

Akun palsu Bloomberg sebelumnya Twitter memblokirnya, memiliki puluhan ribu tweet, tetapi total pengikut kurang dari 1, dan tidak jelas siapa yang menjalankannya atau apa motivasi di balik gambar palsu itu. Selain Bloomberg Feed, akun lain yang menyebarkan pesan palsu termasuk Walter Bloomberg dan Breaking Market News, yang juga tidak berafiliasi dengan perusahaan Bloomberg yang sebenarnya.

Insiden tersebut menyoroti potensi ancaman yang dapat ditimbulkan oleh gambar yang dihasilkan AI di media sosial, di mana informasi yang tidak diverifikasi dibagikan dengan tergesa-gesa, dan sistem verifikasi berbayar di Twitter. Pada bulan Maret, gambar palsu penangkapan Donald Trump, yang dibuat menggunakan Midjourney, menjadi viral, dan meskipun langsung disebut palsu, gambar tersebut terlihat sangat realistis. Juga, banyak yang disesatkan oleh gambar Paus Francis yang dihasilkan oleh AI dalam jaket putih.

Akun "BloombergFeed" kini telah diblokir.

Tapi ini hanya akan berubah menjadi permainan mendera-a-mole.

Gambar AI palsu + berita palsu terverifikasi Twitter akun + media arus utama tidak memeriksa masamnyaces = resep bencana dalam masyarakat digital kita.

Ini tidak akan melambat. foto.twitter.com/ZeboVgVm4Z

— Lorenzo Hijau 〰️ (@mrgreen) 23 Mei 2023

Paus dengan jaket bawah adalah satu hal, tetapi ledakan di markas besar Departemen Pertahanan AS adalah hal lain lagi. Konsekuensinya bisa serius, seperti yang dibuktikan oleh pasar saham yang sama. Dow Jones Industrial Average turun 85 poin dalam empat menit setelah tweet tersebut menjadi viral, tetapi pulih dengan cepat.

Sebagian besar kebingungan seputar tweet palsu tersebut dimungkinkan oleh perubahan dalam Twitter pada masa Elon Musk. Dia memecat banyak moderator konten dan sebagian besar mengotomatiskan proses verifikasi akun, memindahkannya ke sistem di mana siapa pun dapat membayar cek biru. Kritikus mengatakan praktik tersebut membuat platform lebih rentan terhadap informasi yang salah.

Meskipun pihak berwenang relatif cepat mengenali foto ledakan sebagai palsu, ketersediaan model sintesis gambar seperti Midjourney dan Stable Diffusion berarti bahwa pemalsuan yang meyakinkan tidak lagi membutuhkan seni, menyisakan ruang untuk disinformasi. Kemudahan membuat pemalsuan dikombinasikan dengan sifat viral dari platform sejenis Twitter, artinya informasi palsu dapat menyebar lebih cepat daripada yang dapat diverifikasi.

Dalam hal ini, gambar tidak harus berkualitas tinggi untuk menimbulkan dampak negatif. Para ahli mengatakan bahwa ketika orang ingin mempercayai sesuatu, mereka kehilangan kewaspadaan dan tidak memeriksa kebenaran informasi tersebut.

Baca juga:

• AI bahasa Meta mengenali lebih dari 4 bahasa
• Adobe menambahkan pengeditan Isi Generatif bertenaga AI ke Photoshop