Pada hari Selasa, Meta mengumumkan rencananya untuk mulai menandai gambar yang dihasilkan AI dari perusahaan lain seperti OpenAI dan Google. Langkah ini bertujuan untuk meningkatkan transparansi pada platform seperti Facebook, Instagram dan Threads, dengan memberi tahu pengguna bahwa konten yang mereka lihat adalah media digital sintesis dan bukan foto atau video asli.
Solusi Meta adalah bagian dari upaya industri teknologi yang lebih luas untuk menetapkan standar pelabelan konten yang dibuat dengan model AI generatif yang mampu menghasilkan audio, gambar, dan video palsu namun realistis berdasarkan perintah tertulis.
Presiden urusan global Meta, Nick Clegg, membuat pengumuman tersebut dalam postingan blog di situs Meta. “Kami akan terus mengikuti pendekatan ini pada tahun depan, ketika sejumlah pemilu penting akan diadakan di seluruh dunia,” tulis Clegg. “Selama masa ini, kami berharap dapat belajar lebih banyak tentang bagaimana orang membuat dan berbagi konten dengan kecerdasan buatan, transparansi apa yang paling dihargai oleh orang-orang, dan bagaimana teknologi ini berkembang.”
Clegg mencatat bahwa inisiatif penandaan konten yang dihasilkan AI dari Meta akan memperluas praktik penandaan konten yang sudah ada yang dibuat dengan alat AI miliknya sendiri untuk menyertakan gambar yang dibuat menggunakan layanan perusahaan lain.
“Kami sedang membangun alat-alat terdepan di industri yang dapat mengidentifikasi penanda tak terlihat dalam skala besar – khususnya informasi 'yang dihasilkan AI' dalam standar teknis C2PA dan IPTC – sehingga kami dapat menandai gambar dari Google, OpenAI, Microsoft, Adobe, Midjourney, dan Shutterstock saat mereka menerapkan rencana mereka untuk menambahkan metadata ke gambar yang dibuat oleh alat mereka.”
Meta mengatakan teknologi pelabelan konten yang dihasilkan AI akan didasarkan pada tanda air yang tidak terlihat dan metadata yang tertanam dalam file. Meta menambahkan tanda air kecil “Dibayangkan dengan AI” ke gambar yang dibuat dengan generator gambar AI publiknya.
Dalam postingannya, Clegg menyatakan keyakinannya pada kemampuan perusahaan dalam memberi label pada gambar yang dihasilkan AI secara andal, meskipun ia mencatat bahwa alat untuk memberi label pada konten audio dan video masih dalam pengembangan. Sementara itu, Meta akan mengharuskan pengguna untuk menandai konten audio dan video yang dimodifikasi, dengan denda yang tidak ditentukan jika gagal melakukannya.
“Kami akan mewajibkan orang-orang untuk menggunakan alat pengungkapan dan pelabelan ini ketika mereka memposting konten organik dengan video fotorealistik atau suara realistis yang telah dibuat atau diubah secara digital, dan kami dapat memberikan penalti jika mereka tidak melakukannya,” tulisnya.
Namun, Clegg mencatat bahwa saat ini tidak ada cara efektif untuk memberi label pada teks yang dihasilkan AI, sehingga menunjukkan bahwa sudah terlambat untuk menerapkan tindakan tersebut pada konten tertulis. Ini bertepatan dengan laporan kami bahwa pendeteksi teks AI tidak berfungsi.
Pengumuman ini muncul sehari setelah dewan pengawas independen Meta mengkritik kebijakan perusahaan mengenai perubahan video yang menipu karena dianggap terlalu sempit dan merekomendasikan untuk menandai konten tersebut daripada menghapusnya. Clegg setuju dengan kritik tersebut, dan mengakui bahwa kebijakan Meta yang ada tidak cukup untuk mengelola meningkatnya volume konten sintetis dan hibrida di Internet. Ia melihat inisiatif pelabelan baru ini sebagai langkah menuju penerapan rekomendasi lembaga pengawas tersebut dan memacu momentum industri untuk melakukan tindakan serupa.
Meta mengakui bahwa ia tidak akan dapat mendeteksi konten buatan AI yang dibuat tanpa tanda air atau metadata, seperti gambar yang dibuat dengan beberapa alat sintesis gambar AI sumber terbuka. Meta sedang meneliti teknologi watermarking gambar yang disebut Stable Signature yang diharapkan dapat dibangun menjadi generator gambar sumber terbuka. Namun selama piksel tetaplah piksel, piksel dapat dibuat dengan cara yang tidak dikontrol oleh industri teknologi, dan hal ini tetap menjadi tantangan bagi pendeteksian konten AI karena alat AI open source menjadi lebih canggih dan realistis.
Baca juga: