Semakin Mengerikan! Ini Cara Menghindari Anak Jadi Korban Penyalahgunaan AI

Ancaman Deepfake dan Penyalahgunaan AI terhadap Perempuan, Anak, dan Anak Perempuan

Teknologi kecerdasan buatan (AI) kini semakin canggih dalam meniru manusia, mulai dari wajah, suara, hingga cara bicara. Di satu sisi, teknologi ini membantu kehidupan kita. Namun, di sisi lain, AI juga membuka pintu untuk kejahatan baru yang sangat berbahaya, terutama bagi perempuan, anak perempuan, dan anak.

Di tengah perkembangan teknologi digital yang pesat, penting untuk memahami ancaman yang muncul dan bagaimana melindungi kelompok rentan dari penyalahgunaan AI. Berikut adalah beberapa poin penting yang perlu diketahui:

1. Deepfake sebagai Ancaman Nyata tapi Regulasi Belum Ada

Salah satu bentuk penyalahgunaan AI yang paling mengkhawatirkan adalah deepfake, yaitu konten intim palsu yang dibuat dengan menempelkan wajah seseorang ke tubuh orang lain. Masalahnya, Indonesia belum punya undang-undang khusus yang secara eksplisit mengatur dan menghukum pembuat deepfake. Akibatnya, korban sering kali tidak mendapatkan perlindungan yang memadai, sementara pelakunya sulit dijerat.

Fenomena deepfake ini memberi sinyal kuat bagi para pembuat kebijakan di Indonesia. Negara memiliki tanggung jawab untuk melindungi warga dan pejabat publik dari risiko yang muncul akibat perkembangan teknologi digital. Saat ini, penanganannya menggunakan UU 44/2008 tentang Pornografi, UU TPKS, UU ITE, dan Pelindungan Data Pribadi. Namun, regulasi tersebut dinilai masih kurang jelas dan bisa ditafsirkan berbeda-beda.

2. Dualitas AI yang Mengancam Kelompok Rentan: Perempuan, Anak Perempuan, dan Anak

Artificial Intelligence (AI) memang membawa efisiensi di zaman sekarang. Namun di balik manfaatnya, ada sisi gelap yang justru paling membahayakan kelompok rentan seperti perempuan, anak perempuan, dan anak.

Contoh nyata terjadi di Universitas Udayana, di mana seorang mahasiswa diduga membuat deepfake dari foto-foto mahasiswi kampus. Dengan bantuan AI, pelaku memanipulasi foto mahasiswi menjadi konten seksual yang korbannya disebut lebih dari 35 orang. Dalam hitungan detik, martabat seseorang dapat direkayasa, sementara dampaknya mengendap lama dalam psikologis dan reputasi korban.

Di balik layar, pelaku berlindung pada anonimitas digital, sedangkan payung hukum belum sempurna melindungi. Kesenjangan ini membuat korban terombang-ambil tanpa ada perlindungan. Kendati pun, ini bukan salah perempuan, anak perempuan, maupun anak yang menggunakan media sosial. Ini sepenuhnya salah pelaku. Penyalahgunaan teknologi tidak pernah bisa dibenarkan, dan kelompok rentan berhak mendapatkan perlindungan penuh dari negara, platform digital, dan masyarakat.

3. Komitmen Pemerintah dalam Melindungi Perempuan, Anak Perempuan, dan Anak

Melihat risiko yang semakin serius, pemerintah menyiapkan landasan hukum mengenai AI yang akan diundangkan pada 2026. Kebijakan ini diharapkan menjadi payung hukum agar korban deepfake dan kejahatan berbasis teknologi lainnya mendapat keadilan serta perlindungan dan pendampingan.

Komdigi sedang menyiapkan national roadmap penggunaan yang etis, berkelanjutan, dan bertanggung jawab dalam draft peraturan tentang akal imitasi yang targetnya selesai pada 2026. Prinsip etis pemerintah yang akan diadaptasi dalam draft peraturan AI tersebut mencakup keamanan dan keselamatan, akuntabilitas, transparansi, integritas, keadilan, pelindungan data biometrik, dan penilaian dampak pelindungan data.

Selain itu, pemerintah juga menekan keras kepatuhan platform atau penyelenggara sistem elektronik (PSE) untuk menyisir risiko sebaik-baiknya terhadap pengguna. Hal ini dikaji dari aspek kontak, isi konten, anak sebagai konsumen, ancaman terhadap data pribadi anak, risiko adiksi, hingga risiko gangguan psikologis dan biologis anak.

4. Jika Media Sosial Berbahaya, Mengapa Negara Tidak Memblokir untuk Anak?

Internet memang sejatinya tidak diperuntukkan untuk anak-anak. Namun, Indonesia memiliki aturan melalui PP TPKS dan PP Tunas, yang menempatkan tanggung jawab perlindungan digital pada tiga pihak: Penyelenggara Sistem Elektronik (PSE) seperti platform digital, aplikasi, dan media sosial; orangtua dan pendidik sebagai pendamping; serta negara sebagai pelindung.

Anak sendiri memiliki hak untuk mengakses informasi, termasuk ruang digital. Karena itu, yang perlu dilakukan bukan mematikan akses, tetapi memastikan internet menjadi tempat yang lebih aman. Over censorship tidak boleh dilakukan karena anak-anak tetap berhak mengakses internet. Senjata yang bisa kita lakukan adalah kewajiban moderasi konten, fitur-fitur perlindungan, dan mempertegas efektivitas know your customer.

5. Layanan 129 dan UPTD PPA, Tempat Lapor Bila Terjadi Kekerasan

Unit Pelaksana Teknis Daerah Perlindungan Perempuan dan Anak (UPTD PPA) merupakan usaha pemerintah dalam memberikan layanan perlindungan perempuan dan anak korban kekerasan berbasis gender. Setiap provinsi maupun kabupaten/kota didorong untuk memiliki unit ini.

Jika terjadi ancaman, pemerasan, atau penyebaran konten palsu pada anak atau perempuan, segera hubungi:
– Layanan 129 (call center nasional perlindungan perempuan & anak)
– UPT PPA di daerah masing-masing

Layanan UPTD PPA berfungsi:
– Pengaduan Masyarakat
– Penjangkauan Korban
– Pengelolaan Kasus
– Penampungan Sementara
– Pendampingan Korban

6. Orangtua, Peran Paling Berpengaruh terhadap Aktivitas Digital Anak

Dalam ekosistem digital yang makin kompleks, orangtua memegang peran terbesar dalam membentuk cara anak berinteraksi dengan teknologi. Mulai dari memberi contoh perilaku digital yang sehat, menetapkan batasan waktu layar, hingga mendampingi anak memahami risiko dan etika di ruang digital semua berkontribusi langsung pada kebiasaan dan keamanan anak saat online.

Dengan pendampingan yang hangat dan konsisten, anak dapat berkembang sebagai pengguna digital yang cerdas, kreatif, dan terlindungi. Karena hal tersebut semakin mengerikan, pahami cara mencegah anak jadi korban penyalah gunaan AI!