Kecerdasan buatan kini menghadirkan dilema baru. AI yang diciptakan untuk membantu manusia justru dimanfaatkan untuk merugikan. Beberapa waktu lalu, chatbot Grok milik Elon Musk menjadi sorotan karena mampu membuat gambar seksual tanpa izin, termasuk anak di bawah umur dan perempuan, hanya dengan satu permintaan pengguna.
Berdasarkan analisis dari University of Oxford, pengguna dapat mengunggah foto seseorang lalu meminta Grok "menghapus pakaiannya" atau menempatkannya dalam pose seksual. Gambar tersebut bahkan bisa langsung dipublikasikan di platform X (sebelumnya Twitter).
"Mengapa sistem seperti Grok yang terhubung langsung dengan platform besar seperti X masih bisa membuat, menyebarkan, dan seolah lolos dari tanggung jawab atas konten seksual ilegal yang dihasilkannya?" ungkap Dr Federica Fedorczyk, peneliti di Institute for Ethics in AI, Oxford.
AI dan Kekerasan Seksual Tanpa Sentuhan: Ancaman Nyata
Kasus Grok memperlihatkan bentuk baru kekerasan berbasis teknologi. Pembuatan dan penyebaran gambar seksual tanpa izin kini diakui secara hukum sebagai bentuk kekerasan seksual digital.
Dr Fedorczyk juga menjelaskan banyak korban mengalami pelanggaran martabat, rasa malu, dan kerusakan reputasi yang sangat besar akibat dari penyalahgunaan AI tersebut.
Masalah ini bukan hal baru. Sejak 2016, praktik deep nudes dan non-consensual sexual deepfakes terus meningkat. Ancaman semacam ini menciptakan ketakutan di kalangan perempuan untuk tampil di ruang publik digital. Banyak korban memilih mundur dari media sosial karena khawatir wajah mereka digunakan tanpa izin.
Kondisi ini menandakan bahwa kekerasan seksual digital dapat menyerang individu sekaligus menghapus kehadiran perempuan dari ruang daring. Hal itu dapat memperkuat budaya misogini yang sudah ada.
Regulasi Belum Siap Hadapi Teknologi yang Bergerak Lebih Cepat
Berbagai negara sebenarnya telah berupaya menindak kasus semacam ini. Inggris, misalnya, mengesahkan Online Safety Act (2023) dan Data (Use and Access) Act (2025) yang mengkriminalisasi pembuatan deepfake seksual tanpa izin. Namun, pelaksanaannya masih tertinggal jauh dari perkembangan teknologi.
Setelah adanya skandal Grok, regulator komunikasi Inggris Ofcom segera membuka investigasi terhadap platform X karena diduga gagal menegakkan kewajiban pengamanan konten. Ironisnya, X justru membatasi akses Grok hanya bagi pengguna berbayar, seolah menjadikan fitur berisiko ini layanan eksklusif bagi mereka yang mampu membayar.
Menurut Dr Fedorczyk, pendekatan hukum saat ini masih terlalu reaktif karena penanganannya hadir setelah adanya kasus. Menurutnya, masalah etika AI tidak bisa diselesaikan hanya dengan menghukum hasil akhirnya. Perlindungan harus dimasukkan sejak tahap perancangan sistem, bukan ditambal setelah kerusakan terjadi.
AI, Etika, dan Tanggung Jawab Manusia
Kasus Grok hanyalah puncak dari gunung es ekosistem misogini digital yang lebih luas. Dr Fedorczyk memperingatkan bahwa banyak perusahaan teknologi kini mengembangkan chatbot dengan fitur percakapan seksual atau romantis tanpa pengawasan etis yang memadai.
"Kasus Grok hanyalah puncak gunung es dari ekosistem misogini dan kekerasan online yang lebih luas dan bahkan kini tidak lagi tersembunyi," ujar Dr Fedorczyk.
Ia menegaskan bahwa tanggung jawab utama tetap berada di tangan manusia, bukan mesin.
Tanpa kemauan politik dan kesadaran sosial untuk menetapkan batas etis yang tegas, siklus kekerasan berbasis AI akan terus berulang dan meninggalkan korban yang kian tak terlihat di dunia digital.
