Aspirasimediarakyat.com – Perkembangan teknologi kecerdasan buatan (AI) dan visual manipulatif berbasis deepfake tengah membawa dampak signifikan terhadap lanskap komunikasi dan informasi digital di Indonesia. Di balik kilau inovasi, muncul gelombang ancaman baru yang menyasar keamanan informasi, etika komunikasi, dan perlindungan terhadap kelompok rentan, terutama perempuan dan anak-anak.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, dalam pernyataan resminya pada Jumat (25/7/2025), menegaskan bahwa penyalahgunaan teknologi digital telah menjadi tantangan utama yang harus segera ditangani melalui pendekatan hukum, regulatif, dan edukatif. Ia mengungkapkan bahwa teknologi seperti deepfake bukan sekadar inovasi kreatif, melainkan telah digunakan secara masif untuk tujuan merusak.
“Gelombang perkembangan teknologi membuka peluang luar biasa, tapi juga membuka celah ancaman yang bisa melemahkan kepercayaan antarmasyarakat,” ujar Nezar. Pernyataan ini mencerminkan kekhawatiran pemerintah terhadap makin canggihnya manipulasi digital yang mampu menciptakan konten palsu seolah-olah nyata.
Merujuk pada laporan riset Sensity AI, Nezar menyebut terjadi lonjakan 550 persen kasus deepfake sejak 2019. Ironisnya, 90 persen dari konten tersebut digunakan untuk maksud jahat. Fakta ini menjadi alarm bagi penegak hukum dan pembuat kebijakan, terutama karena korban utamanya adalah perempuan dan anak-anak.
Menurut Nezar, 11 persen perempuan usia 15 hingga 29 tahun pernah mengalami kekerasan berbasis gender secara daring sejak usia belia. “Konten manipulatif ini bukan hanya menyerang reputasi pribadi, tapi juga melanggar hak dasar individu untuk merasa aman di ruang digital,” tegasnya.
Sebagai respons terhadap dinamika ini, Kementerian Komunikasi dan Digital telah menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025, atau yang dikenal sebagai PP TUNAS. Regulasi ini menjadi pijakan hukum bagi penyelenggaraan sistem elektronik yang menjamin perlindungan anak dari ancaman di dunia maya.
PP TUNAS menjadi tonggak penting yang menuntut peran aktif seluruh pemangku kepentingan, termasuk lembaga pendidikan, pemerintah daerah, dan organisasi masyarakat sipil. Nezar menegaskan bahwa literasi digital tak bisa lagi dianggap sebagai pelengkap, melainkan harus ditempatkan sebagai kompetensi dasar dalam kehidupan berteknologi saat ini.
“AI seharusnya menjadi teman untuk berimajinasi dan berinovasi, bukan untuk membahayakan atau merugikan orang lain,” tambahnya. Dengan kata lain, orientasi pengembangan teknologi harus diarahkan pada nilai-nilai kemanusiaan, bukan sekadar efisiensi dan estetika digital.
Nezar juga menyoroti pentingnya membentuk kesadaran kolektif agar publik mampu mengenali ciri konten manipulatif dan memahami etika bermedia. Literasi digital kini mencakup kemampuan berpikir kritis, menjaga privasi data, serta memahami hak dan tanggung jawab dalam dunia digital.
Komdigi sendiri, menurutnya, telah mengembangkan tiga strategi utama untuk menciptakan ruang digital yang sehat. Pertama, peningkatan literasi digital secara masif; kedua, pengawasan dan penindakan terhadap konten berbahaya; dan ketiga, penguatan regulasi perlindungan anak secara berkelanjutan.
“Kami berkomitmen menciptakan ruang digital yang aman bagi semua,” ujar Nezar. Ia menyebut bahwa pihaknya aktif melakukan penurunan (takedown) terhadap konten negatif, serta menjalin kerja sama intensif dengan aparat penegak hukum untuk menghadapi bentuk-bentuk kejahatan digital yang terus berkembang.
Kendati begitu, berbagai kalangan menyebut bahwa upaya regulasi belum sepenuhnya menyentuh realitas sosial yang kompleks. Banyak kasus kekerasan digital, termasuk penyebaran konten seksual nonkonsensual, yang belum ditindak secara adil atau berujung impunitas. Hal ini mengindikasikan masih lemahnya pelaksanaan hukum di lapangan.
Tantangan lainnya datang dari ketimpangan akses terhadap literasi digital di daerah-daerah. Banyak sekolah di pelosok belum memahami apa itu deepfake, apalagi bagaimana mengajarkan anak untuk mengenalinya. Tanpa distribusi informasi yang merata, ancaman digital hanya akan makin merajalela.
Pakar hukum dan teknologi menilai bahwa Indonesia memerlukan mekanisme perlindungan yang lebih kuat, termasuk penyusunan undang-undang khusus tentang manipulasi digital dan penyalahgunaan AI. Langkah ini penting agar aparat penegak hukum memiliki pijakan yuridis yang tegas dalam menghadapi kejahatan teknologi yang terus berevolusi.
Selain pendekatan hukum, transformasi budaya digital juga perlu dilakukan. Edukasi tidak bisa hanya bersifat teknis, melainkan harus menanamkan nilai keadilan, empati, dan penghargaan terhadap hak digital individu.
Dengan semakin meningkatnya kompleksitas kejahatan digital, sinergi antara pemerintah, swasta, lembaga pendidikan, dan masyarakat sipil menjadi keniscayaan. Tanpa kolaborasi yang sistematis, Indonesia hanya akan menjadi pasar dari produk teknologi global tanpa mampu menciptakan perlindungan sosial yang seimbang.
Wacana reformasi hukum digital pun terus bergulir. Namun hingga kini, Indonesia belum memiliki sistem penindakan yang memadai terhadap konten deepfake dan AI yang melanggar etika. Di tengah ketertinggalan tersebut, kebijakan seperti PP TUNAS menjadi titik awal, meski masih membutuhkan instrumen turunan dan pengawasan ketat agar tak sekadar menjadi dokumen normatif semata.
Nezar mengajak masyarakat untuk ikut aktif dalam menciptakan ekosistem digital yang sehat dan aman. “Kita tidak bisa membiarkan ruang digital menjadi medan kekerasan baru. Ini tugas bersama untuk mengubahnya menjadi ruang tumbuh dan berkembang,” pungkasnya.
