San Francisco – Kemajuan pesat dalam AI Generatif telah menghasilkan kemampuan untuk membuat konten yang sangat realistis—gambar, video, dan audio—yang dikenal sebagai Deepfake. Meskipun deepfake memiliki potensi kreatif yang besar, ia menimbulkan ancaman eksistensial terhadap kepercayaan dan realitas digital.
Deepfake dapat digunakan untuk membuat informasi palsu yang menargetkan individu (misalnya, pemerasan) atau menyebarkan disinformasi skala besar (misalnya, memanipulasi pemilu atau pasar keuangan). Teknologi ini menurunkan ambang batas untuk pemalsuan, menjadikannya terjangkau bahkan bagi aktor dengan sumber daya terbatas.
Untuk melawan ancaman ini, teknologi pendeteksian deepfake (seperti AI yang melatih AI untuk mencari anomali halus) dan Digital Watermarking (tanda air digital yang tidak terlihat) sedang dikembangkan. Tantangannya adalah perlombaan senjata, di mana teknologi pemalsuan selalu satu langkah di depan pendeteksian. Penting bagi masyarakat untuk mengadopsi skeptisisme digital sebagai bagian dari literasi media baru.
