PONTIANAKMEREKAM.COM, JAKARTA – Kementerian Komunikasi dan Digital (Komdigi) dikabarkan mengambil langkah tegas dengan membatasi hingga memblokir sementara akses layanan Grok AI di Indonesia. Kebijakan ini muncul setelah maraknya laporan penggunaan kecerdasan buatan tersebut untuk membuat konten deepfake bermuatan asusila, yang dinilai berpotensi melanggar hukum dan merugikan masyarakat.
Langkah Komdigi ini dipahami sebagai bagian dari upaya negara dalam menjaga ruang digital tetap aman, khususnya dari penyalahgunaan teknologi kecerdasan buatan yang berkembang sangat cepat, namun belum sepenuhnya diimbangi literasi dan regulasi yang matang.
Pemblokiran akses yang dimaksud bukan larangan total terhadap teknologi AI, melainkan penanganan terhadap platform atau layanan tertentu yang dinilai belum memiliki sistem pengamanan memadai untuk mencegah penyalahgunaan. Dalam konteks ini, Grok AI disebut-sebut dapat menghasilkan atau dimodifikasi untuk membuat gambar dan konten palsu yang menyerupai individu nyata, termasuk konten dewasa tanpa persetujuan.
Fenomena tersebut dikenal sebagai deepfake asusila, yaitu manipulasi visual berbasis AI yang menempatkan wajah seseorang ke dalam konten pornografi atau tidak pantas. Dampaknya tidak hanya melanggar etika, tetapi juga dapat mencederai reputasi, privasi, serta berujung pada tindak pidana.
Apa Itu Grok AI dan Bagaimana Cara Kerjanya?
Secara teknis, Grok AI adalah sistem kecerdasan buatan berbasis model bahasa dan generatif yang mampu:
-
memahami perintah pengguna (prompt),
-
menghasilkan teks,
-
menganalisis data,
-
dan dalam pengembangannya terhubung dengan kemampuan multimodal.
Namun seperti banyak AI generatif lainnya, Grok AI dapat disalahgunakan apabila:
-
prompt pengguna tidak dibatasi,
-
sistem filter konten lemah,
-
dan tidak ada pengawasan penggunaan.
Dalam kasus deepfake, AI generatif dapat bekerja dengan mengombinasikan:
-
dataset gambar,
-
pemetaan wajah,
-
serta algoritma pembelajaran mesin
untuk menghasilkan visual yang tampak realistis meski sepenuhnya palsu.
Komdigi menilai konten deepfake asusila sebagai ancaman nyata karena:
-
merusak martabat individu,
-
sering menyasar perempuan dan anak,
-
sulit dibedakan dari konten asli,
-
cepat menyebar di media sosial.
Di Indonesia, praktik semacam ini berpotensi melanggar:
-
Undang-Undang ITE,
-
perlindungan data pribadi,
-
serta norma kesusilaan dan hukum pidana.
Karena itu, ketika sebuah teknologi dinilai mempermudah produksi atau distribusi konten bermasalah, negara berhak mengambil langkah pembatasan demi kepentingan publik.
Pemblokiran akses oleh Komdigi umumnya berarti:
-
layanan tidak dapat diakses melalui jaringan di Indonesia,
-
dilakukan sementara sambil menunggu klarifikasi atau perbaikan sistem,
-
penyedia platform diminta meningkatkan content moderation dan safeguard teknologi.
Artinya, kebijakan ini bersifat korektif, bukan anti-inovasi.
Kasus ini menegaskan bahwa:
-
AI bukan teknologi netral tanpa risiko,
-
penggunaan AI harus disertai tanggung jawab hukum dan etika,
-
negara akan hadir jika teknologi membahayakan masyarakat.
Bagi pengguna, literasi digital menjadi kunci agar tidak ikut menyebarkan atau memanfaatkan AI untuk hal melanggar hukum. Sementara bagi pengembang, sistem pengamanan dan kepatuhan regulasi menjadi syarat mutlak.
Pemblokiran akses Grok AI oleh Komdigi mencerminkan sikap tegas pemerintah dalam menghadapi penyalahgunaan kecerdasan buatan, khususnya terkait deepfake asusila. Langkah ini bukan untuk menghambat inovasi, melainkan memastikan perkembangan AI berjalan sejalan dengan hukum, etika, dan perlindungan masyarakat.
Di era digital, kecepatan teknologi harus diimbangi dengan tanggung jawab, baik oleh negara, platform, maupun pengguna. ( nv )
Penulis: SB
Editor: Chairul
