Media sosial baru-baru ini dihebohkan dengan rekaman suara yang diduga sebagai Ketua Umum Partai Nasdem Surya Paloh dan Capres nomor urut 1 Anies Baswedan, yang diduga dibuat menggunakan teknologi AI deepfake. Akhir tahun lalu teknologi ini salah satunya juga telah digunakan pada video yang menampilkan Presiden Joko Widodo (Jokowi) tengah berpidato menggunakan bahasa Mandarin.
Dalam menghadapi fenomena ini, Intel sejak tahun 2022 lalu telah memperkenalkan detektor deepfake real-time bernama FakeCatcher. FakeCatcher, yang dikembangkan bersama Umur Ciftci dari State University of New York di Binghamton, menggunakan perangkat keras dan perangkat lunak Intel. Teknologi ini beroperasi di server dan berinteraksi melalui platform berbasis web, mampu mendeteksi video palsu dengan akurasi 96% dan memberikan hasil dalam milidetik.
“Video deepfake ada dimana-mana sekarang. Anda mungkin pernah melihatnya; video selebriti yang melakukan atau mengatakan hal-hal yang sebenarnya tidak pernah mereka lakukan,” kata Staf ilmuwan peneliti senior di Intel Labs, Ilke Demir dalam postingan blognya, dikutip Rabu (24/1/2024).
Teknologi ini bekerja dengan mencari tanda-tanda autentik dalam video nyata, seperti “aliran darah” halus dalam piksel, yang berubah warna saat jantung memompa darah. Sinyal aliran darah ini dikumpulkan dari seluruh wajah dan diterjemahkan oleh algoritme ke dalam peta spatiotemporal untuk mendeteksi keaslian video.
Selain itu, Microsoft juga telah mengembangkan Alat Otentikator Video yang canggih. Alat ini dapat menganalisis foto atau video diam untuk memberikan skor keyakinan yang menunjukkan apakah media telah dimanipulasi.
Alat ini mendeteksi batas pencampuran elemen deepfake dan perubahan halus pada skala abu-abu yang tidak terdeteksi oleh mata manusia, memberikan skor kepercayaan secara real-time.
Namun, dengan kemajuan teknologi AI generatif yang semakin pesat, layanan detektor ini menghadapi tantangan untuk menyamai kemampuan AI terbaru.
Dalam konteks ini, penting bagi masyarakat untuk mendapatkan edukasi agar tidak terkecoh dengan konten buatan AI. Regulasi yang kuat dalam pengembangan AI juga diperlukan untuk memastikan teknologi ini dimanfaatkan secara bertanggung jawab.
