Jakarta – Konten gambar hasil produksi kecerdasan buatan (AI) semakin banyak beredar di internet dan menimbulkan keresahan. Hal ini disebabkan oleh kemampuan konten tersebut untuk mengecoh pengguna internet yang tidak mengetahui fakta di baliknya.
Di Korea Selatan, kasus pornografi hasil AI deepfake menjadi masalah serius dalam beberapa waktu terakhir. Semakin banyak warga Korea Selatan, termasuk anak di bawah umur, menjadi korban kejahatan seks deepfake. Kasus ini mencuat setelah viralnya sejumlah ruang obrolan di Telegram yang diduga membuat dan mendistribusikan materi pornografi deepfake, memicu ketakutan dan kemarahan di Korea Selatan.
Karena konten AI semakin marak dan meresahkan, Google kini sedang mengembangkan alat untuk mendeteksi konten buatan AI. Awal tahun ini, Google bergabung bersama komite Coalition for Content Provenance and Authenticity (C2PA). Bersama anggota komite lainnya, Google tengah mengembangkan teknologi untuk mendeteksi dan menandai konten hasil kecerdasan buatan.
Nantinya, teknologi ini akan diimplementasikan pada Content Credentials, sebuah ekstensi yang membantu melacak asal konten video dan foto. Dalam beberapa bulan mendatang, Google akan memasukkan versi terbaru Content Credentials ke produk-produk utama Google. Dengan demikian, Google akan mempermudah kita mendeteksi konten AI di hasil pencarian Google.
Melansir Engadget, pendeteksi tersebut akan tersedia juga di Google Images, Lens, dan Circle to Search. Jika gambar yang muncul memiliki metadata C2PA, kita akan mudah mendapati perubahan yang dilakukan oleh AI dalam menu “About this image”. Google juga tengah belajar untuk membuat sistem yang dapat mengidentifikasi rincian video YouTube, termasuk kapan video tersebut diambil oleh kamera.
Namun, sistem pendeteksian ini memiliki beberapa kelemahan. Sistem ini bergantung pada penggunaan sistem penandaan C2PA oleh perusahaan-perusahaan terkait seperti pembuat kamera dan pembuat alat AI. Artinya, jika seseorang menghapus metadata pada suatu foto, maka Google juga akan kesulitan untuk mencari deteksi kadar AI pada foto tersebut.
Di sisi lain, perusahaan Meta sedang bertikai mengeni cara mengungkapkan konten AI di Facebook, Instagram, dan Threads. Meta baru saja mengubah kebijakan dengan membuat label lebih tidak terlihat dalam foto yang diedit menggunakan AI. Label “AI info” yang dulunya berada di tengah-tengah foto yang diedit menggunakan alat AI, sekarang akan berada pada menu postingan.
Selain itu, Google juga berencana akan memakai metadata C2PA ke sistem iklan. Namun, mereka tidak mengungkap detail-detail lain. Sejauh yang diketahui, C2PA akan digunakan untuk menginformasikan cara Google menegakkan kebijakan utama.
