AI Moderasi di Roblox: Pelengkap Autonomi Anak atau Lalu Lintas Predator Terselubung?

mili.id - Di balik visual penuh warna, wahana kreativitas dan kebebasan berekspresi yang ditawarkan Roblox, tersimpan persoalan besar yang masih jarang dibicarakan secara jujur, seperti seberapa aman ruang digital ini bagi anak-anak?

Moderasi berbasis Artificial Intelligence (AI) seringkali digadang-gadang sebagai solusi praktis untuk menyaring konten berbahaya.

Baca juga: Surabaya Kini Punya Kampung Inggris, Terinspirasi dari Pare Kediri

Namun realitanya, kehadiran sistem ini justru mengundang tanda tanya.

Benarkah AI mampu mengawal interaksi anak dengan baik, atau justru menutupi lalu lintas predator yang semakin lihai menyamar?

Teknologi Moderasi Otomatis Belum Cukup Cerdas

Oleh: Supangat

Secara sistem, platform seperti Roblox memang telah mengadopsi AI untuk menyaring kata-kata kasar, konten kekerasan, dan perilaku yang melanggar standar komunitas.

Namun kita tak bisa menutup mata, AI masih sangat bergantung pada pola bahasa yang eksplisit. Padahal, tak semua bentuk ancaman muncul dalam kalimat frontal atau baku.

Modus seperti grooming, misalnya, sering kali dibungkus dengan pendekatan emosional yang lembut, mengajak berteman, memberi perhatian, atau pura-pura menjadi teman sebaya.

Interaksi seperti ini tidak akan terbaca sebagai ancaman oleh sistem yang hanya mengandalkan logika blokir kata. Pendekatan emosional yang dimaksud lebih bertujuan untuk membuat calon target merasa nyaman, membutuhkan bahkan ketergantungan dengan pelaku.

Supangat, Ph.D., ITIL., COBIT., CLA., CISA., Dosen Sistem dan Teknologi Informasi, Fakultas Teknik Untag Surabaya

Inilah kelemahan moderasi yang terlalu teknis. Dia tidak mengenali konteks dan tidak memahami niat. Teknologi bisa menyaring makian, tapi belum tentu bisa menangkap manipulasi halus.

Dibutuhkan sistem yang lebih adaptif dan kontekstual, bukan sekadar reaktif. Bahkan dalam konteks hukum, kemampuan deteksi AI belum sepenuhnya sejalan dengan kebutuhan perlindungan anak yang utuh.

Karena itu, sekuat apa pun teknologi yang dikembangkan, ia tetap membutuhkan dukungan pendekatan manusia, baik melalui desain sistem yang lebih cerdas maupun integrasi dengan pendampingan sosial yang memadai.

Saat Anak Merasa Aman, Padahal Tidak

Oleh: Amanda Pascarini

Dari perspektif psikologi, ada persoalan yang tak kalah berbahaya, misalnya dengan munculnya rasa aman palsu.

Ketika sebuah platform mengklaim aman karena "sudah dimoderasi AI", anak-anak cenderung menurunkan kewaspadaan. Mereka merasa tidak sedang berada dalam situasi yang perlu dicurigai.

Dan di situlah risiko terbesar justru bersembunyi. Penurunan kewaspadaan menyebabkan anak cenderung lengah dan mengesampingkan aspek antisipasi.

Salah satu ancaman yang sering luput dari pantauan sistem adalah grooming digital, yakni upaya pelaku untuk mendekati anak secara perlahan, membangun kepercayaan, lalu menyisipkan ajakan atau percakapan yang menjurus pada pelecehan.

Baca juga: Untag Surabaya Raih Anugerah Kampus Unggulan LLDIKTI Wilayah VII 2025 Berkat Riset dan Pengabdian Berdampak

Pelaku bisa menyamar sebagai teman sebaya, memberi perhatian berlebih, hingga membuat korban merasa istimewa dan tergantung secara emosional.

Ini bukan bentuk ancaman yang bisa disaring oleh sistem berbasis kata. Yang terjadi di balik layar adalah proses psikologis yang tidak bisa dibaca oleh mesin.

Anak-anak sendiri, terutama di usia pra-remaja, masih membentuk konsep tentang siapa yang bisa dipercaya. Mereka belum mampu membedakan antara perhatian tulus dan manipulasi tersembunyi.

Dalam beberapa kasus, mereka bahkan merasa bersalah ketika hubungan itu berubah menjadi ancaman, dan justru enggan bercerita pada orang dewasa.

Kondisi ini semakin pelik, mengingat masa perkembangan anak dan remaja merupakan masa yang penuh pertumbuhan, perubahan dan adaptasi, sehingga secara emosional mereka masih belum matang dan cenderung mudah dipengaruhi.

Lingkungan dan role model yang ada disekitar anak atau remaja memiliki peran yang sangat signifikan untuk menentukan perkembangan kepribadian mereka.

Tak hanya grooming, moderasi AI yang tidak kontekstual juga kerap gagal mendeteksi cyberbullying terselubung. Sindiran halus, pengucilan di ruang obrolan, atau komentar menyakitkan yang dikemas dalam nada bercanda bisa lolos dari penyaringan otomatis.

Padahal bagi anak-anak, pengalaman ini bisa meninggalkan luka psikologis yang dalam, menurunkan kepercayaan diri, menyebabkan kecemasan sosial, bahkan depresi.

Ketika sistem gagal mengenali dinamika emosional, anak dibiarkan menghadapi tekanan tanpa perlindungan yang layak. Dalam jangka panjang berbagai dampak diatas akan mempengaruhi secara langsung perkembangan diri maupun kepribadian anak atau remaja.

Karena itu, pendampingan dari orangtua dan pendidik tetap menjadi garda depan. Literasi digital bukan cuma soal menghindari situs dewasa, tapi juga memahami dinamika hubungan sosial daring.

Baca juga: Kampus Merah Putih Untag Surabaya Kembali Jadi Rumah Keroncong Lewat UNCC 2025

Anak perlu dibekali keterampilan mengenali situasi yang tidak sehat secara emosional—dan itu tidak bisa dibebankan sepenuhnya pada mesin.

Dr. Rr. Amanda Pascarini, M.Si., Psikolog., Dosen Psikologi, Fakultas Psikologi Untag Surabaya

Kolaborasi Mesin dan Nurani

Kami tidak sedang menolak kehadiran AI. Justru sebaliknya, kami percaya teknologi bisa menjadi alat bantu luar biasa dalam menciptakan ruang digital yang lebih aman. Tapi sistem secerdas apa pun tidak akan berguna jika digunakan secara tunggal, tanpa sentuhan empati manusia.

Jika hari ini anak-anak diberi keleluasaan menjelajah dunia virtual, maka dunia orang dewasalah yang bertanggung jawab membentengi mereka. Bukan dengan ketakutan, tapi dengan sistem yang terintegrasi: antara AI yang semakin cerdas, regulasi yang berpihak pada korban, dan manusia yang hadir secara sadar, baik sebagai pendidik, orangtua, maupun pembuat kebijakan.

Anak-anak akan terus hadir di ruang digital, dengan atau tanpa pengawasan kita. Roblox hanya salah satu contoh. Dunia digital akan terus berkembang, dan anak-anak kita akan terus menjadi bagian darinya. Maka, keselamatan mereka bukan sekadar urusan sistem, tapi juga soal siapa yang memilih untuk peduli dan benar-benar hadir.

Penulis:

1. Supangat, Ph.D., ITIL., COBIT., CLA., CISA., Dosen Sistem dan Teknologi Informasi, Fakultas Teknik Untag Surabaya.

2. Dr. Rr. Amanda Pascarini, M.Si., Psikolog., Dosen Psikologi, Fakultas Psikologi Untag Surabaya.

Editor : Narendra Bakrie