India, Malaysia, dan Prancis Ancam Ambil Tindakan terhadap X atas Konten AI Grok yang Menyinggung

JAKARTA, ARAHKITA.COM - India, Malaysia, dan Prancis menyatakan siap mengambil tindakan terhadap platform media sosial X menyusul kontroversi penggunaan chatbot AI Grok yang dituduh menghasilkan gambar seksual perempuan dan anak-anak.

Chatbot disebut mampu memanipulasi foto orang nyata dengan cara menghapus pakaian secara digital sebagai respons atas permintaan pengguna.

Malaysia

• Baca juga:

  Yamaha Kenalkan Warna Baru XMAX 250

Malaysia secara resmi bergabung dengan India dan Prancis dalam mengkritik Grok, teknologi AI milik Elon Musk yang terintegrasi di X. Dalam beberapa hari terakhir, Grok dilaporkan menghasilkan gambar perempuan dan anak-anak yang diedit hingga tampak hampir telanjang atau hanya mengenakan bikini.

Fenomena penelanjangan digital ini, dilansir The Independent, mulai ramai diperbincangkan setelah Grok meluncurkan fitur “edit gambar” yang memungkinkan pengguna memodifikasi foto apa pun yang diunggah ke platform X. Sejak saat itu, keluhan dari pengguna dan unggahan hasil manipulasi AI tersebut menyebar luas dan memicu kekhawatiran global.

• Baca juga:

  India, Malaysia, dan Prancis Ancam Ambil Tindakan terhadap X atas Konten AI Grok yang Menyinggung

Otoritas Malaysia menyatakan telah membuka penyelidikan setelah menerima laporan bahwa Grok digunakan untuk memanipulasi gambar perempuan dan anak di bawah umur menjadi konten yang tidak senonoh atau berbahaya. Komisi Komunikasi dan Multimedia Malaysia menegaskan bahwa pembuatan dan penyebaran konten semacam itu merupakan pelanggaran hukum.

Komisi tersebut juga memperingatkan bahwa meskipun X belum berstatus sebagai penyedia layanan berlisensi di Malaysia, platform tersebut tetap memiliki kewajiban untuk mencegah penyebaran konten berbahaya. Regulator menyatakan akan menyelidiki pengguna X yang diduga melanggar hukum serta memanggil perwakilan perusahaan.

• Baca juga:

  X Diblokir, Elon Musk Ancam akan Ungkap Kejahatan Hakim MA Brasil

Media lokal Malaysia melaporkan bahwa Grok juga menghasilkan gambar perempuan Malaysia tanpa jilbab, yang semakin memperkuat reaksi keras publik. Di tengah meningkatnya kritik, Elon Musk justru sempat menanggapi kontroversi tersebut dengan emoji tertawa-menangis di media sosial, termasuk saat menanggapi unggahan AI yang menampilkan tokoh terkenal dalam balutan bikini.

Namun, seiring meningkatnya tekanan internasional, Musk menyatakan bahwa X mengambil tindakan terhadap konten ilegal, termasuk konten yang melibatkan anak-anak. Ia menegaskan bahwa pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah konten terlarang lainnya.

India

Di India, pemerintah mengirimkan surat resmi kepada X yang memerintahkan peninjauan menyeluruh terhadap Grok. Pemerintah menuntut agar chatbot tersebut tidak menghasilkan konten yang mengandung ketelanjangan, seksualisasi, atau materi ilegal lainnya. X diminta menyerahkan laporan tindakan korektif dalam waktu 72 jam, dengan ancaman sanksi pidana dan pelanggaran undang-undang teknologi informasi jika tidak patuh.

Pemerintah India juga membuka kemungkinan penerapan regulasi yang lebih ketat terhadap platform media sosial terkait konten AI yang tidak pantas. Sementara itu, perusahaan xAI menanggapi pertanyaan media dengan singkat, menyebut bahwa media arus utama menyebarkan informasi yang tidak benar.

Prancis

Di Prancis, otoritas menuduh Grok menghasilkan konten seksual yang dinilai jelas ilegal tanpa persetujuan individu yang bersangkutan. Pemerintah Prancis menyatakan bahwa praktik tersebut berpotensi melanggar Undang-Undang Layanan Digital Uni Eropa.

Kantor kejaksaan Paris juga memperluas penyelidikan terhadap X dengan memasukkan dugaan penggunaan Grok untuk menghasilkan dan menyebarkan konten pelecehan seksual anak. Penyelidikan terhadap X sendiri telah dimulai sejak Juli, setelah muncul laporan dugaan manipulasi algoritma yang memungkinkan campur tangan asing.