Komdigi Blokir Sementara Akses Grok untuk Cegah Konten Pornografi Deepfake

JAKARTA, ARAHKITA.COM - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) melakukan pemutusan akses sementara terhadap aplikasi Grok sebagai langkah untuk melindungi perempuan, anak, dan masyarakat luas dari risiko penyebaran konten pornografi palsu berbasis teknologi akal imitasi atau artificial intelligence (AI).

Menteri Komunikasi dan Digital Meutya Hafid menyatakan kebijakan tersebut merupakan bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, serta menghormati hak asasi manusia. Menurutnya, praktik pembuatan dan penyebaran konten pornografi deepfake tanpa persetujuan merupakan pelanggaran serius terhadap martabat dan keamanan warga negara di ruang digital.

Meutya menegaskan bahwa penggunaan teknologi AI untuk menciptakan konten pornografi palsu termasuk bentuk kekerasan berbasis digital yang dapat menimbulkan dampak psikologis, sosial, hingga hukum bagi korban. Karena itu, negara perlu hadir untuk mencegah meluasnya praktik tersebut.

• Baca juga:

  Indonesia Jadi Negara Pertama yang Blokir Grok, Pemerintah Tegas Lindungi Ruang Digital

Pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif. Pemerintah ingin memastikan setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai agar tidak disalahgunakan untuk memproduksi atau menyebarluaskan konten terlarang.

Selain memutus akses, Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera memberikan klarifikasi. Klarifikasi tersebut diperlukan guna menjelaskan dampak negatif penggunaan Grok serta langkah mitigasi yang akan diambil untuk mencegah penyalahgunaan teknologi serupa di masa mendatang.

• Baca juga:

  Komdigi Blokir Sementara Akses Grok untuk Cegah Konten Pornografi Deepfake

Meutya menambahkan bahwa kebijakan ini memiliki dasar hukum yang jelas. Pemutusan akses dilakukan berdasarkan kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam regulasi tersebut, Penyelenggara Sistem Elektronik diwajibkan memastikan sistem yang dikelolanya tidak memuat atau memfasilitasi penyebaran informasi elektronik yang dilarang oleh peraturan perundang-undangan.

Grok, dilansir Antara, sebelumnya menuai kritik keras dari berbagai negara karena dinilai memungkinkan pengguna membuat gambar berbau pornografi, termasuk konten deepfake. Pihak Grok sempat menyatakan bahwa fitur pembuatan dan pengeditan gambar hanya tersedia bagi pelanggan berbayar di platform X. Namun, sejumlah pihak menilai aplikasi tersebut masih memungkinkan pembuatan gambar tanpa berlangganan.

• Baca juga:

  Komdigi Berhasil Pulihkan 707 BTS Terdampak Banjir di Aceh, Sumut, dan Sumbar

Sejumlah negara seperti Inggris, Uni Eropa, dan India secara terbuka mengecam X dan Grok. Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi terkait chatbot tersebut. Sementara itu, pemerintah India dikabarkan telah memerintahkan X untuk segera menghentikan penyalahgunaan fitur pembuatan gambar atau menghadapi risiko kehilangan perlindungan safe harbor. Lembaga pengawas komunikasi Inggris juga menyatakan telah menghubungi xAI untuk meminta penjelasan atas persoalan tersebut.