Inggris Kecam Gambar Palsu Grok AI yang Menargetkan Perempuan dan Anak

JAKARTA, ARAHKITA.COM - Pemerintah Inggris mengecam keras maraknya penyebaran gambar palsu yang dihasilkan oleh Grok AI milik Elon Musk dan beredar luas di platform X.

Gambar-gambar tersebut menampilkan perempuan dan anak perempuan dengan pakaian yang dihilangkan secara digital, sehingga memicu kekhawatiran serius terkait keselamatan daring.

Sekretaris teknologi Inggris Liz Kendall menyebut fenomena tersebut sebagai sesuatu yang mengerikan dan tidak dapat diterima dalam masyarakat beradab. Ia mendesak X untuk segera menangani persoalan ini dan menyatakan dukungannya kepada regulator media Inggris, Ofcom, untuk mengambil langkah penegakan hukum yang diperlukan.

• Baca juga:

  India, Malaysia, dan Prancis Ancam Ambil Tindakan terhadap X atas Konten AI Grok yang Menyinggung

Kendall menegaskan bahwa pemerintah tidak akan membiarkan penyebaran gambar yang merendahkan dan menghina, terutama karena konten tersebut secara tidak proporsional menargetkan perempuan dan anak-anak. Menurutnya, Inggris tidak akan mentolerir peredaran materi daring yang kasar dan menjijikkan dalam bentuk apa pun.

Pernyataan ini muncul di tengah meningkatnya tekanan agar Undang-Undang Keamanan Daring diperketat. Sejumlah pakar dan aktivis menilai aturan tersebut perlu diperkuat untuk menghadapi ancaman baru dari teknologi kecerdasan buatan, meski terdapat dorongan dari Amerika Serikat untuk melonggarkan regulasi tersebut.

• Baca juga:

  "Otak-Atik Gathuk" ala Xi Jinping

Sejumlah pihak mengkritik respons pemerintah yang dinilai lamban. Jessaline Caine, penyintas pelecehan seksual anak, menyebut respons otoritas sebagai lemah dan mengungkapkan bahwa Grok AI masih mampu memenuhi permintaan manipulasi gambar anak. Ia membandingkan dengan platform AI lain yang menolak permintaan serupa karena telah memiliki pengamanan yang lebih ketat.

Ofcom menyatakan telah menyadari kekhawatiran serius terkait Grok AI dan telah menghubungi X serta xAI untuk meminta penjelasan mengenai langkah perlindungan pengguna di Inggris. Regulator tersebut menyebut akan mempertimbangkan penyelidikan lebih lanjut berdasarkan tanggapan dari perusahaan terkait.

• Baca juga:

  Menanti Inovasi Musk sang ‘Robotic’ di Twitter

Tekanan juga datang dari anggota parlemen independen dan aktivis keselamatan anak daring Beeban Kidron, yang mendesak pemerintah menunjukkan ketegasan lebih besar. Ia menyatakan bahwa jika produk konsumen lain menyebabkan dampak merugikan serupa, produk tersebut sudah lama ditarik dari peredaran.

Ofcom memiliki kewenangan untuk menjatuhkan denda hingga 18 juta poundsterling atau 10 persen dari pendapatan global perusahaan teknologi yang melanggar aturan. Pemerintah juga sebelumnya berjanji akan memberlakukan undang-undang baru untuk melarang alat AI yang digunakan untuk membuat gambar telanjang palsu tanpa persetujuan, meski jadwal penerapannya belum jelas.

Pakar keamanan siber memperingatkan bahwa kemampuan AI yang semakin canggih, termasuk dalam menghasilkan video palsu berdurasi panjang, berpotensi memperparah dampak sosial. Mereka menilai regulasi ketat diperlukan agar teknologi tidak disalahgunakan, terutama terhadap anak-anak dan perempuan.

Saat ini, pembuatan dan penyebaran gambar intim tanpa persetujuan serta materi pelecehan seksual anak telah dilarang secara hukum di Inggris, termasuk deepfake seksual berbasis AI. Namun, para aktivis menilai celah hukum masih ada dan dapat mengancam privasi serta hak anak di era digital.