RISKS.ID – Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara terhadap aplikasi Grok. Langkah ini diambil sebagai upaya melindungi perempuan, anak, dan seluruh masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi akal imitasi atau artificial intelligence (AI).
Menteri Komunikasi dan Digital Meutya Hafid mengatakan, kebijakan tersebut merupakan bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, serta menghormati hak asasi manusia. Pernyataan itu disampaikan Meutya dalam keterangan resmi di Jakarta, Sabtu (10/1).
Menurut Meutya, praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital. Dia menilai, penggunaan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek merupakan bentuk kekerasan berbasis digital.
“Dampaknya dapat merugikan korban secara psikologis, sosial, maupun hukum,” ujar Meutya.
Dia menjelaskan, pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif. Pemerintah perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai agar tidak disalahgunakan untuk memproduksi maupun menyebarluaskan konten terlarang.
Selain memutus akses, Komdigi juga meminta Platform X sebagai pihak terkait untuk segera memberikan klarifikasi. Klarifikasi tersebut diperlukan guna menjelaskan dampak negatif penggunaan Grok serta langkah mitigasi yang akan dilakukan agar penyalahgunaan teknologi serupa tidak terulang.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok,” kata dia.
Meutya menegaskan, kebijakan pemutusan akses sementara ini memiliki dasar hukum yang jelas. Komdigi menjalankan kewenangannya sesuai dengan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Dalam regulasi tersebut, khususnya Pasal 9, setiap PSE diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi maupun dokumen elektronik yang dilarang oleh peraturan perundang-undangan.
Seperti diketahui, Grok menuai kritik keras dari berbagai kalangan internasional karena dinilai memungkinkan pengguna membuat gambar berbau pornografi. Dalam pernyataannya, Grok menyebut hanya pelanggan berbayar di Platform X yang dapat membuat dan mengedit gambar. Namun, sejumlah pihak menuding fitur tersebut tetap dapat digunakan tanpa harus membayar biaya langganan.
Sejumlah negara, seperti Inggris, Uni Eropa, dan India, secara terbuka mengecam Platform X dan Grok atas dugaan pembiaran penyalahgunaan teknologi tersebut. Uni Eropa bahkan meminta perusahaan pengembang xAI menyimpan seluruh dokumentasi terkait chatbot Grok.
Sementara itu, pemerintah India dikabarkan telah memerintahkan Platform X untuk segera melakukan perubahan guna menghentikan penyalahgunaan fitur pembuatan gambar.
Jika tidak, perusahaan tersebut berisiko kehilangan perlindungan safe harbor di negara itu. Otoritas pengawas komunikasi Inggris juga menyatakan telah menghubungi xAI untuk meminta penjelasan terkait persoalan serupa.
