BERITABUANA.CO, JAKARTA – Anggota Komisi I DPR RI Syamsu Rizal mendukung Kementerian Komunikasi dan Digital (Komdigi) untuk memblokir Grok AI dan media sosial X. Sebab Grok AI di X digunakan memproduksi dan menyebarkan konten pornografi.
Syamsu Rizal menilai kemampuan Grok AI memanipulasi gambar sampai menjadi konten asusila merupakan ancaman serius dan sangat mengkhawatirkan. Apalagi Grok AI belum memiliki sistem moderasi konten yang mencegah penyalahgunaan.
“Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” kata Syamsu Rizal dalam keterangannya, Jumat (9/1/2026).
Menurutnya, penyalahgunaan kecerdasan buatan tanpa pengawasan ketat bisa berdampak luas. Tidak hanya merugikan individu yang menjadi korban, tetapi juga merusak tatanan sosial dan moral masyarakat.
“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” ujar Syamsu Rizal.
Negara memiliki kewajiban melindungi warganya dari dampak negatif teknologi digital, terutama yang berkaitan dengan eksploitasi, pornografi, dan pelanggaran privasi. Ia menilai, pembiaran terhadap praktik semacam ini akan menjadi preseden buruk bagi ekosistem digital nasional.
“Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” pungkasnya.
Seperti diberitakan, Komdigi mengatakan bahwa Grok AI dan X akan dikenakan sanksi administratif hingga pemutusan akses jika tidak patuh dan kooperatif terhadap aturan yang ada di Indonesia.
Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar menegaskan, platform X sebagai salah Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan yang berlaku di Indonesia.
Menurut Sabar, penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku. (Jim)
