Jakarta – OpenAI telah mengembangkan sistem watermark atau tanda air pada teks yang dihasilkan oleh chatbot AI ChatGPT, serta alat untuk mendeteksi watermark tersebut, yang telah siap selama sekitar satu tahun. Namun, hingga saat ini, fitur itu belum diterapkan.
OpenAI dilaporkan mengalami perdebatan internal mengenai apakah akan merilis fitur watermarking ini atau tidak. Di satu sisi, fitur ini dianggap sebagai bentuk tanggung jawab yang harus dilakukan, namun di sisi lain, ada kekhawatiran bahwa ini bisa merugikan keuntungan perusahaan.
Menurut laporan dari The Verge, watermarking OpenAI digambarkan sebagai penyesuaian dalam cara model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, sehingga menciptakan pola yang dapat dideteksi.
Kehadiran metode untuk mendeteksi materi yang ditulis oleh AI ini merupakan keuntungan potensial bagi guru yang berusaha mencegah siswa menyerahkan tugas menulis yang dibuat oleh AI.
OpenAI sendiri menemukan bahwa watermarking tidak memengaruhi kualitas output teks dari chatbot-nya. Dalam pembaruan posting blog, OpenAI mengonfirmasi bahwa mereka telah mengembangkan teks watermarking dengan akurasi 99 persen dan tahan terhadap “gangguan, seperti parafrase.”
Namun, OpenAI khawatir bahwa penggunaan watermarking dapat mengurangi jumlah pengguna ChatGPT. Dalam survei yang mereka danai, ditemukan bahwa hampir 30 persen pengguna mengaku akan lebih jarang menggunakan ChatGPT jika watermarking diterapkan.
Meskipun demikian, beberapa karyawan masih merasa bahwa watermarking adalah metode yang efektif. Melihat sentimen pengguna yang resah, sejumlah karyawan ChatGPT menyarankan untuk mencoba metode yang tidak terlalu kontroversial.
Dalam pembaruan posting blognya pada Senin (5/8), OpenAI menyatakan bahwa mereka sedang “dalam tahap awal” mengeksplorasi penyematan metadata. Mereka mengungkapkan bahwa masih “terlalu dini” untuk mengetahui seberapa baik cara kerjanya, tetapi karena ditandatangani secara kriptografis, tidak akan ada false positif.
