Solusiindonesia.com — Gelombang keresahan akibat penyalahgunaan kecerdasan buatan (AI) mencapai puncaknya. Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memutus sementara akses fitur Grok AI di platform X (dahulu Twitter).
Langkah ini diambil menyusul maraknya konten manipulasi visual atau deepfake asusila yang merugikan masyarakat luas.
Fitur milik Elon Musk ini menuai kecaman setelah sistemnya yang dianggap terlalu permisif sering disalahgunakan untuk menciptakan konten pornografi non-konsensual. Sejumlah figur publik, termasuk penyanyi Bernadya dan eks member JKT48, Azizi Asadel, secara terbuka mengecam tindakan oknum tak bertanggung jawab yang memanipulasi foto mereka menggunakan teknologi ini.
Menurut pakar komunikasi digital, Firman Kurniawan, fenomena ini sangat mengkhawatirkan karena mengaburkan batas antara realitas dan rekayasa. “AI seharusnya menjadi solusi, bukan sumber ketakutan yang merusak kepercayaan sosial,” ujarnya.
Kriitik tajam juga datang dari pengamat siber CISSREC, Pratama Persadha. Ia menyoroti minimnya kontrol moderasi pada Grok. Berbeda dengan platform AI lain yang memiliki filter ketat, kebijakan platform X yang longgar terhadap konten dewasa menjadi celah besar bagi penyebaran deepfake.
Dampaknya tidak main-main:
- Pelanggaran Privasi: Pembuatan konten asusila tanpa izin.
- Ketidakstabilan Nasional: Risiko fitnah digital melalui video pidato pejabat palsu.
- Kriminalitas Siber: Alfons Tanujaya dari Vaksincom mengibaratkan AI sebagai “pisau bermata dua” yang di tangan yang salah bisa menjadi senjata kriminal mematikan.
Pemerintah tidak tinggal diam. Seiring berlakunya UU Nomor 1 Tahun 2023 (KUHP Baru) per 2 Januari 2026, payung hukum bagi korban manipulasi digital semakin kuat. Pelaku yang memproduksi atau menyebarkan konten asusila berbasis AI terancam hukuman penjara hingga 10 tahun.
Saat ini, Dittipidsiber Bareskrim Polri tengah melakukan investigasi intensif terhadap berbagai laporan manipulasi data elektronik yang meresahkan publik.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa pemutusan akses Grok adalah bentuk perlindungan negara terhadap warga negara, khususnya perempuan dan anak-anak.
“Kami memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia dan martabat warga negara di ruang digital,” tegas Meutya (10/1/2026).
Pihak Komdigi juga telah melayangkan panggilan kepada manajemen X untuk memberikan klarifikasi dan menuntut adanya audit sistem yang lebih ketat guna mencegah dampak negatif yang lebih luas.
