Jakarta (ANTARA) - Gim daring Roblox meluncurkan fitur baru berbasis kecerdasan buatan (AI) yang mampu mengubah atau memparafrasekan bahasa tidak pantas secara otomatis pada percakapan di dalam gim.

Dilansir dari Engadget pada Minggu, Roblox sebelumnya telah menggunakan filter AI untuk memblokir kata atau frasa yang melanggar kebijakan komunitas. Namun sistem tersebut hanya mengganti pesan yang disensor dengan tanda pagar (####), yang kerap membuat percakapan sulit dipahami.

Melalui fitur terbaru ini, kata atau kalimat yang dianggap tidak pantas diucapkan akan diganti dengan ungkapan yang lebih sopan oleh AI, sehingga alur percakapan tetap dapat dipahami oleh pemain.

Chief Safety Officer Roblox Rajiv Bhatia mengatakan tahap awal penerapan fitur ini difokuskan pada kata-kata kasar. Sebagai contoh, jika seorang pemain menulis “Hurry TF up”, sistem akan menggantinya menjadi “Hurry up”.

Setiap pesan yang diubah akan disertai keterangan bahwa kalimat tersebut telah diparafrasekan oleh sistem. Pengirim pesan juga dapat melihat bagian bahasa yang telah disunting. Meski demikian, pemain yang terus menggunakan kata-kata kasar tetap dapat dikenai sanksi karena melanggar kebijakan komunitas.

“Seiring sistem ini diperluas, hal tersebut dapat menciptakan efek berkelanjutan yang mendorong kesopanan, di mana umpan balik secara real-time membantu pengguna belajar dan menerapkan standar komunitas kami," kata Rajib.

Fitur parafrase tersebut saat ini diterapkan pada percakapan antara pengguna yang telah terverifikasi usianya dan berada dalam kelompok usia yang serupa, serta tersedia dalam berbagai bahasa yang didukung oleh sistem terjemahan Roblox.

Pada Januari lalu, Roblox juga memperkenalkan sistem verifikasi usia setelah muncul laporan yang menyebut platform tersebut memiliki masalah terkait keamanan anak, termasuk dugaan bahwa pemain dewasa menggunakan gim untuk mendekati anak-anak secara tidak pantas.

Untuk mencegah hal tersebut, pengguna berusia di bawah 13 tahun kini tidak lagi dapat menggunakan fitur obrolan dalam gim, sementara pemain lain hanya dapat berkomunikasi dengan pengguna yang berada pada rentang usia yang sama.

Meski demikian, upaya tersebut belum sepenuhnya meredam kritik. Pemerintah Los Angeles County di Amerika Serikat pada Februari mengajukan gugatan yang menilai Roblox mengetahui bahwa platformnya berpotensi membuat anak-anak rentan terhadap pedofilia.

Gugatan serupa juga diajukan oleh jaksa agung negara bagian Louisiana yang menuduh platform tersebut tidak cukup dalam melindungi pengguna anak dari predator seksual.