Technologue.id, Jakarta -
OpenAI, perusahaan pengembang teknologi kecerdasan buatan (AI) memiliki sistem untuk memberi tanda air pada teks yang dibuat ChatGPT. Perusahaan juga memiliki alat untuk mendeteksi tanda air, menurut The Wall Street Journal.
Secara internal perusahaan terpecah mengenai apakah akan merilis fitur watermark tersebut. Di satu sisi, hal ini tampaknya merupakan hal yang bertanggung jawab untuk dilakukan, tetapi di sisi lain, hal ini dapat merugikan keuntungannya.
Watermarking OpenAI digambarkan sebagai penyesuaian cara model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, sehingga menciptakan pola yang dapat dideteksi, dikutip dari The Verge.
Baca Juga:
Tecno Pova 6 Pro 5G Resmi Meluncur, Ini Fitur dan Harganya
Alat pendeteksi materi yang ditulis oleh AI merupakan keuntungan potensial bagi guru yang mencoba mencegah siswa menyerahkan tugas menulis mereka ke AI. Journal melaporkan bahwa perusahaan tersebut menemukan bahwa watermarking tidak mempengaruhi kualitas keluaran teks chatbotnya.
Dalam survei yang dilakukan perusahaan, “orang-orang di seluruh dunia mendukung gagasan alat pendeteksi AI dengan selisih empat banding satu,” tulis Journal.
Setelah Journal menerbitkan postingan-nya, OpenAI mengonfirmasi bahwa mereka sedang mengerjakan teks watermarking dalam pembaruan postingan blog yang ditemukan oleh TechCrunch. Di dalamnya, perusahaan mengatakan metodenya sangat akurat (99,9% efektif,” menurut dokumen yang dilihat Journal) dan tahan terhadap “gangguan, seperti parafrase.”
Namun dikatakan bahwa teknik seperti penulisan ulang dengan model lain menjadikannya “mudah untuk dielakkan oleh pelaku kejahatan.” Tampaknya OpenAI juga khawatir bahwa penggunaan watermarking dapat mematikan pengguna ChatGPT, di mana hampir 30 persen di antaranya mengatakan kepada perusahaan bahwa mereka akan mengurangi penggunaan perangkat lunak jika watermarking diterapkan.
Meski begitu, beberapa karyawan dilaporkan masih merasa bahwa watermarking itu efektif. Namun, mengingat sentimen pengguna yang mengganggu, Journal mengatakan beberapa orang menyarankan untuk mencoba metode yang “berpotensi tidak terlalu kontroversial di kalangan pengguna tetapi belum terbukti.”
Dalam pembaruan postingan blog, perusahaan tersebut mengatakan bahwa pihaknya “sedang dalam tahap awal” mengeksplorasi penyematan metadata. Dikatakan masih “terlalu dini” untuk mengetahui seberapa baik cara kerjanya, tetapi karena ditandatangani secara kriptografis, maka seharusnya tidak akan terjadi kesalahan.