Wamenkomdigi: Teknologi Deepfake AI Tingkatkan Ancaman Penipuan Digital

REPUBLIKA.CO.ID, JAKARTA, – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan kecerdasan buatan (AI) melalui teknologi deepfake menjadi tantangan etis dan keamanan digital yang serius. Ia menekankan bahwa teknologi ini berpotensi besar meningkatkan ancaman penipuan digital yang semakin sulit dikenali.

Teknologi deepfake memungkinkan pembuatan video, gambar, maupun suara palsu yang sangat menyerupai aslinya. "Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, Rabu.

Menurut Nezar, perkembangan kecerdasan buatan saat ini berlangsung sangat cepat, bahkan telah melampaui fase kecerdasan buatan generatif (generative AI) menuju kecerdasan buatan otonom (agentic AI) dan berbagai teknologi baru lainnya. Perkembangan tersebut membawa manfaat besar bagi berbagai sektor, tetapi pada saat yang sama juga memunculkan risiko-risiko baru yang memerlukan perhatian serius.

Ancaman Realitas Sintetik dan Rendahnya Literasi

Dalam aspek keamanan siber, Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan dengan memanfaatkan teknologi deepfake. Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai realitas sintetik (synthetic reality), yaitu konten hasil rekayasa digital yang semakin sulit dibedakan dari kenyataan.

Ia menilai rendahnya literasi masyarakat mengenai perkembangan AI membuat banyak orang mudah terkecoh oleh konten hasil manipulasi tersebut. "Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," ujarnya.

Pentingnya Pengawasan Manusia dan Etika Sejak Desain

Nezar juga mengingatkan pentingnya keterlibatan manusia dalam proses pengambilan keputusan (human in the loop) pada pengembangan kecerdasan buatan otonom yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara mandiri (decision making). Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada dalam pengawasan manusia.

"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelasnya.

Lebih lanjut, ia menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut. Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan (ethics by design).

Karena itu, Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan. "Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," katanya menegaskan.

Konten ini diolah dengan bantuan AI.

sumber : antara