NASIONAL, BALINEWS.ID – Kementerian Komunikasi dan Digital (Kemkomdigi) menyelidiki dugaan penyalahgunaan kecerdasan buatan Grok AI di platform X yang diduga digunakan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah pembuatan konten pornografi berbasis foto nyata.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander, Rabu (7/1/26).
Komdigi menilai praktik manipulasi foto pribadi berpotensi melanggar privasi dan hak atas citra diri. Pemerintah kini berkoordinasi dengan penyelenggara sistem elektronik (PSE) untuk memperkuat moderasi konten dan mencegah deepfake asusila.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi dan perusakan martabat seseorang,” tegas Alexander.
Kemkomdigi juga mengingatkan bahwa konten pornografi diatur dalam KUHP baru yang berlaku sejak 2 Januari 2026, khususnya Pasal 172 dan Pasal 407. Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun atau denda sesuai ketentuan hukum.
Pemerintah menegaskan, ketidakpatuhan terhadap peraturan di Indonesia dapat berujung pada sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X. (*)
