Jakarta – Pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) melakukan pemutusan akses sementara terhadap aplikasi Grok. Langkah ini diambil sebagai upaya melindungi perempuan, anak, dan seluruh masyarakat dari risiko peredaran konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial (AI).
Menteri Komunikasi dan Digital RI, Meutya Hafid, dalam pernyataan resminya menegaskan bahwa praktik pembuatan dan penyebaran deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai bentuk pelanggaran berat yang tidak dapat ditoleransi. Negara wajib hadir untuk melindungi masyarakat dari dampak negatif pemanfaatan teknologi yang tidak bertanggung jawab,” tegas Meutya Hafid.
Selain melakukan pemutusan akses sementara terhadap Grok, Kemkomdigi juga telah meminta Platform X selaku pihak terkait untuk segera hadir dan memberikan klarifikasi. Klarifikasi tersebut diperlukan guna menjelaskan dampak penggunaan aplikasi Grok serta langkah-langkah mitigasi yang akan dilakukan agar kejadian serupa tidak terulang.
Menurut Meutya, pemerintah mendukung inovasi dan pengembangan teknologi digital, termasuk kecerdasan artifisial. Namun, pemanfaatannya harus tetap berada dalam koridor hukum, etika, serta menjunjung tinggi perlindungan hak asasi manusia.
“Teknologi harus memberi manfaat bagi masyarakat, bukan justru menjadi sarana kekerasan digital, pelecehan, atau pelanggaran privasi,” ujarnya.
Pemutusan akses sementara ini dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan/atau dokumen elektronik yang dilarang.
Kemkomdigi menegaskan akan terus memantau perkembangan kasus ini serta mengambil langkah lanjutan sesuai ketentuan peraturan perundang-undangan yang berlaku demi terciptanya ruang digital yang aman, sehat, dan beretika. (*)
