Technologue.id, Jakarta - Snapchat telah mengumumkan beberapa fitur baru untuk meningkatkan pengalaman pengguna yang lebih aman pada chatbot AI-nya. Snapchat menghadirkan fitur filter yang disesuaikan dengan usia penggunanya dan fitur pengawasan untuk orangtua.
Sejak diluncurkannya My AI, chatbot AI Snapchat yang ditenagai oleh ChatGPT milik OpenAI dan diluncurkan sebagai fitur eksperimental khusus pelanggan Snapchat+, beberapa pengguna mencoba untuk "mengelabui chatbot agar memberikan respon yang tidak sesuai dengan pedoman kami." Sebagai tanggapan atas masalah ini, Snapchat telah meluncurkan beberapa fitur untuk menjaga respon AI tetap sesuai dengan pedoman.
Baca Juga:
My AI, Snapchat Rilis Chatbot AI Berbasis GPT dari OpenAI
Untuk membuat pengalaman chatting yang lebih aman, Snapchat telah menambahkan filter usia yang memungkinkan chatbot mengetahui tanggal lahir pengguna dan memberikan respons yang sesuai dengan usia mereka. Perusahaan mengatakan bahwa chatbot "akan secara konsisten mempertimbangkan usia pengguna" saat berbicara dengan mereka.
Snapchat juga berencana memberikan lebih banyak akses informasi dalam beberapa minggu ke depan untuk orangtua ataupun wali tentang interaksi anak-anak mereka dengan chatbot MyAI lewat fitur Pusat Keluarga yang diluncurkan tahun lalu (09/08). Fitur baru ini akan memberi notifikasi pada orangtua atau wali jika anak mereka berkomunikasi dengan chatbot dan juga memberikan informasi soal frekuensi interaksi tersebut. Baik orangtua maupun anak mereka harus menyetujui penggunaan Pusat Keluarga agar fitur pengawasan orang tua ini dapat bekerja.
Dalam sebuah postingan blog, Snapchat menjelaskan bahwa chatbot My AI bukanlah "teman" asli karena chatbot menggunakan riwayat percakapan untuk meningkatkan responnya. Pengguna juga telah diberi tahu tentang retensi data saat mereka memulai percakapan dengan chatbot.
Baca Juga:
MOSS: Chatbot AI yang Bakal Dirilis China
Snapchat telah menghitung bahwa chatbot mereka hanya menghasilkan 0,01% respons dalam kata ataupun kalimat yang "non-konform”. Istilah ini dipakai untuk merepresentasikan kata-lata yang yang terkait dengan kekerasan, kata-kata seksual, penggunaan obat-obatan terlarang, pelecehan seksual anak, intimidasi, ujaran kebencian, pernyataan merendahkan atau bias, rasisme, misogini, atau mendiskriminasi kelompok minoritas.
Dalam kebanyakan kasus, Snapchat menyatakan bahwa respons kurang pantas yang dihasilkan oleh MyAI terjadi karena chatbot menirukan apa saja yang pengguna katakan. Platform jejaring sosial tersebut menegaskan bahwa mereka akan memblokir akses chatbot AI untuk sementara waktu, bagi pengguna yang menyalahgunakan layanan.
Dalam postingan blognya, Snapchat mengatakan, “Kami akan menggunakan pengalaman ini untuk terus meningkatkan My AI. Data ini juga akan membantu kami mengimplementasikan sistem baru untuk membatasi penyalahgunaan My AI. Kami telah menambahkan teknologi moderasi OpenAI ke alat kami yang akan memungkinkan kami menilai tingkat potensi konten berbahaya dan membatasi akses Snapchatters ke My AI untuk sementara waktu jika mereka menyalahgunakan layanan."
Dengan fitur baru ini, Snapchat berharap dapat memberikan pengalaman yang lebih aman bagi pengguna.