Technologue.id, Jakarta - Platform gim berbasis kreator Roblox kembali menghadirkan inovasi teknologi dengan meluncurkan sistem moderasi AI multimodal real-time. Teknologi ini dirancang untuk mengawasi konten dinamis yang terus berubah di dalam gim, sekaligus meningkatkan keamanan komunitas yang sangat bergantung pada kreativitas pengguna.
Berbeda dengan sistem moderasi konvensional yang menilai satu objek dalam satu waktu, teknologi baru Roblox mampu menganalisis avatar, teks, dan objek 3D secara bersamaan, mengevaluasi satu adegan secara utuh dalam satu momen hingga mengidentifikasi pelanggaran berdasarkan kombinasi elemen.
Dengan pendekatan ini, sistem dapat mendeteksi konten bermasalah yang sebelumnya sulit dikenali karena setiap elemennya tampak aman jika dilihat terpisah.
Jika pelanggaran terjadi berulang dalam satu sesi, sistem tidak langsung menghapus gim, melainkan menutup server (sesi permainan) untuk meminimalkan dampak terhadap pemain lain.
Sejak diluncurkan, sistem ini telah menunjukkan dampak signifikan. Roblox mencatat sekitar 5.000 sesi gim ditutup setiap hari karena melanggar Community Standards.
Ke depan, perusahaan menargetkan sistem ini mampu memantau hingga 100% waktu bermain, sembari terus meningkatkan akurasi dan mengurangi kesalahan deteksi (false positives).
