Perspektif.today-Hanya dalam hitungan detik, dunia yang sepenuhnya fiktif dapat dihidupkan lewat layar. Sebuah kota masa depan yang belum pernah ada, atau peristiwa sejarah yang tak pernah terjadi, kini bisa diwujudkan lewat teknologi seperti Sora dari OpenAI atau Veo dari Google. Kecanggihan kecerdasan buatan generatif ini, khususnya video berbasis prompt AI, telah membawa manusia pada lompatan besar dalam evolusi digital. Di tangan siapa pun yang menguasai teks perintah sederhana, batas antara imajinasi dan realitas semakin kabur.
Namun seperti Pandora yang membuka kotak rahasianya, di balik keajaiban ini tersembunyi ancaman dahsyat: era di mana mata tak lagi dapat dipercaya telah benar-benar datang. Ini bukan sekadar gangguan kecil di media sosial, tetapi gelombang besar yang mengguncang industri kreatif, hukum, bahkan tatanan sosial-politik global. Realitas digital—yang dulu jelas bedanya antara fakta dan manipulasi—kini menjadi zona abu-abu.
Fakta ini diperkuat oleh data. Jika pada 2019 jumlah video deepfake hanya sekitar 15.000 di seluruh dunia, maka hingga akhir 2024 angkanya melonjak lebih dari 550 persen. Laporan Sensity AI menunjukkan ledakan konten sintetis ini terus berlangsung hingga 2025, meluas dari platform terbuka ke ranah gelap internet. Lebih mengkhawatirkan, penyebaran ini berlangsung di atas infrastruktur digital yang masif: 5,4 miliar pengguna internet global, atau 67 persen populasi dunia, dan lebih dari 220 juta pengguna aktif di Indonesia menurut data terbaru APJII. Dengan rata-rata waktu layar lebih dari tujuh jam per hari, Indonesia menjadi pasar sekaligus laboratorium besar bagi peredaran konten sintetis ini.
Ada dua wajah dari teknologi ini. Di sisi positif, AI generatif membuka peluang luar biasa. Seniman, pembuat film pemula, bahkan siswa SMA kini dapat membuat simulasi visual kompleks tanpa biaya besar untuk efek visual. Studio film mempercepat proses praproduksi, iklan dirancang dengan prototipe kilat, dunia pendidikan mendapat sarana simulasi yang kian imersif.
Namun seperti koin bermata dua, ada sisi gelap yang membayangi. Disinformasi politik menjadi lebih mudah disebar melalui video deepfake tokoh publik yang diatur berkata hal-hal provokatif. Penipuan keuangan meningkat lewat kloning suara atau wajah untuk mencuri akses ke data rahasia. Bahkan kasus kejahatan seksual digital lewat pembuatan konten pornografi non-konsensual deepfake menyasar perempuan dalam jumlah mengkhawatirkan.
Bahaya terbesar justru muncul dalam bentuk tak kasatmata: erosi kepercayaan publik. Masyarakat yang kehilangan kemampuan membedakan fakta dari rekayasa bisa terseret ke dalam “infocalypse”—kondisi di mana kebenaran tak lagi punya tempat pasti. Ini ancaman bukan hanya bagi industri media, tapi bagi demokrasi itu sendiri.
Dampaknya tak berhenti di ranah sosial. Dunia kreatif juga diguncang hebat. Bagi pekerja film, periklanan, hingga desain grafis, AI generatif menghadirkan paradoks: alat produksi murah sekaligus ancaman lapangan kerja. Aktor bisa kehilangan hak atas wajah dan suara digitalnya, seniman visual tergeser oleh mesin prompt. Di ruang hukum, sengketa hak cipta baru menanti: siapakah pemilik video buatan AI? Penulis prompt atau pengembang mesinnya?
Perdebatan pun meluas hingga ranah etika dan filsafat. Sam Altman dari OpenAI menyebut ini sebagai “demokratisasi kreativitas”, tapi Geoffrey Hinton, salah satu pionir AI, justru angkat kaki dari Google karena cemas pada potensi bahaya tak terkendali. Di sisi lain, pemikir seperti Yuval Noah Harari mengingatkan: teknologi ini berpotensi membajak persepsi manusia itu sendiri, bukan hanya informasi.
Di Indonesia, pertanyaan besarnya adalah: mampukah kita merumuskan ekosistem digital yang aman dan beretika di tengah gelombang teknologi ini? Bonus demografi dan lonjakan adopsi internet membuat masyarakat kita sekaligus paling rentan terhadap manipulasi informasi visual. Politisasi, hoaks menjelang pemilu, hingga pemerasan daring sudah terjadi—dan bisa lebih masif jika regulasi tidak lekas hadir.
Tanggung jawab ini mestinya dibagi rata. Bukan hanya pemerintah yang harus bergerak lewat pembaruan undang-undang soal pencemaran nama baik dan penipuan digital, tetapi juga pengembang teknologi. Mereka wajib menyematkan watermarking dan alat deteksi AI pada tiap konten buatannya. Sementara masyarakat harus dibekali kemampuan literasi digital tinggi, agar tak terpancing atau terpedaya oleh ilusi visual.
Tak realistis jika berharap teknologi ini berhenti berkembang. Seperti listrik atau internet, prompt AI akan menjadi bagian keseharian. Namun masa depan digital ini bisa diarahkan: antara anarki visual tanpa batas, atau ekosistem yang teratur dan aman. Tanpa etika, aturan, dan edukasi, Indonesia bisa terjebak menjadi “pasar deepfake” terbesar Asia Tenggara—tempat di mana kebenaran dijual murah.
Karena itu pertaruhan ini bukan soal teknologi semata, melainkan soal keberanian kolektif: akankah kita membiarkan realitas pudar di antara algoritma, atau justru mengembalikan batas jelas antara fiksi dan fakta? Masa depan digital Indonesia tengah ditulis hari ini—di layar-layar kecil kita, di bilik regulator, di meja para pengembang perangkat lunak. Kita tak bisa menunggu lebih lama.
***
Penulis adalah dosen Universitas Bung Hatta
