Rabu, 07 JANUARI 2026 • 14:00 WIB

Kemkomdigi Beri Peringatan Terkait Konten Asusila dari Grok AI

Author

Fiddy Anggriawan

Kementerian Komunikasi dan Digital (Kemkomdigi) mengungkapkan bahwa Grok AI, chatbot yang dimiliki X, terlibat dalam produksi konten asusila dari pengguna. Pihak kementerian menegaskan bahwa mereka menindaklanjuti masalah ini dengan serius.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menunjukkan bahwa Grok AI masih kekurangan pengaturan untuk mencegah distribusi konten pornografi yang bisa melanggar privasi individu di Indonesia.

Kurangnya Pengaturan di Grok AI

Alexander Sabar menjelaskan bahwa terdapat temuan awal yang menunjukkan tidak adanya pengaturan spesifik dalam Grok AI untuk mencegah hilangnya kontrol individu terhadap identitas visual mereka. Situasi ini berpotensi menyebabkan pelanggaran hak privasi dan citra diri warga negara.

Masalah manipulasi foto pribadi, menurut Sabar, tidak hanya berkaitan dengan kesusilaan. Ini juga berisiko menimbulkan kerugian psikologis dan reputasi sosial bagi individu yang terlibat.

Sanksi bagi Pelanggar Kebijakan

Kemkomdigi menegaskan bahwa semua penyelenggara sistem elektronik (PSE) di Indonesia wajib mematuhi peraturan yang berlaku. Pelanggaran terhadap kewajiban ini dapat berakibat pada sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.

Penyedia layanan AI yang terlibat dalam produksi atau penyebaran konten pornografi dapat dikenakan sanksi administratif serta pidana. Pengguna yang melakukan tindakan serupa juga berada dalam pengawasan hukum.

Perlindungan Hukum bagi Korban

Sejak diberlakukannya UU No 1 Tahun 2023 tentang Kitab UU Hukum Pidana, pengaturan mengenai pornografi telah diatur dalam Pasal 172 dan 407. Pasal 172 mendefinisikan pornografi sebagai media yang melanggar norma kesusilaan, sementara Pasal 407 menyangkut ancaman pidana bagi pelanggar.

Korban dari manipulasi foto atau pelanggaran hak citra diri memiliki hak untuk melaporkan kejadian tersebut kepada aparatur hukum dan juga kepada Kemkomdigi. Alexander menyerukan pentingnya pemahaman tanggung jawab teknologi serta penghormatan terhadap privasi dan citra diri orang lain.