WANITAINDONESIA.CO – Era kecerdasan buatan (AI) membawa kemudahan, namun di tangan yang salah, ia bisa menjadi senjata yang merusak. Baru-baru ini, Kementerian Komunikasi dan Digital (Kemkomdigi) menyoroti fitur Grok AI pada platform X (dahulu Twitter) yang diduga kuat disalahgunakan untuk menciptakan konten asusila berbasis foto nyata warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa Grok AI saat ini belum memiliki “pagar pembatas” yang cukup kuat. Akibatnya, siapapun bisa memanipulasi foto pribadi orang lain menjadi konten pornografi tanpa izin.
“Ini bukan sekadar masalah kesusilaan, tapi perampasan hak atas citra diri (right to one’s image). Korban kehilangan kendali atas identitas visual mereka sendiri,” tegas Alexander.
Pemerintah tidak main-main. Jika platform X dan Grok AI tidak segera memperbaiki sistem moderasi mereka, Kemkomdigi mengancam akan melakukan: Pemutusan akses layanan (Blokir) Grok AI dan platform X di Indonesia ditambah sanksi Administratif yang berat bagi penyelenggara sistem elektronik.
Bagi para pengguna yang iseng atau sengaja memproduksi konten ini, siap-siap berhadapan dengan UU No. 1 Tahun 2023 (KUHP Baru). Pasal 407 secara spesifik mengatur ancaman pidana penjara mulai dari 6 bulan hingga 10 tahun serta denda yang sangat besar.
Apa yang harus dilakukan jika jadi korban Deepfake AI?
Menemukan foto diri dimanipulasi secara tidak senonoh tentu sangat menyesakkan. Namun, jangan panik. Berikut adalah langkah-langkah hukum dan teknis yang bisa kamu ambil:
1. Amankan Bukti Segera
- Jangan langsung menghapus konten tersebut dari sumbernya.
- Screenshot atau rekam layar konten tersebut.
- Catat URL/Link akun yang mengunggah atau menyebarkannya.
- Simpan bukti interaksi (jika ada ancaman atau pemerasan).
2. Gunakan Fitur Report di Platform
Laporkan konten tersebut langsung di platform (seperti X, Instagram, atau Telegram). Pilih kategori “Harassment” (Pelecehan) atau “Non-Consensual Sexual Content”. Semakin banyak yang melaporkan, semakin cepat sistem menghapus konten tersebut.
3. Adukan ke Kemkomdigi
Kamu bisa melaporkan konten negatif atau pelanggaran privasi melalui kanal resmi pemerintah:
- Situs: AduanKonten.id
- WhatsApp: 0811-922-4545
- Email: aduankonten@kominfo.go.id
4. Lapor ke Pihak Berwajib (Siber Polri)
Konten deepfake asusila adalah tindak pidana. Kamu bisa mendatangi kantor polisi terdekat atau membuat laporan secara online melalui situs Patrolisiber.id untuk penanganan hukum lebih lanjut.
5. Cari Dukungan Psikologis
Menjadi korban digital abuse bisa berdampak pada kesehatan mental. Jangan ragu untuk bercerita kepada orang kepercayaan atau berkonsultasi dengan profesional agar kamu merasa lebih aman dan didukung.
Teknologi seharusnya memperdayakan manusia, bukan merendahkan martabat. Mari kita gunakan AI dengan bijak dan tetap waspada dalam membagikan foto pribadi di ruang publik digital. (Gdi)