Wajah dan suara kini dapat ditiru kecerdasan buatan. Ketika penipuan semakin meyakinkan, kemampuan membedakan kenyataan dari rekayasa menjadi persoalan serius.
Bayangkan seseorang menerima panggilan video dari anaknya yang sedang berada di luar kota. Wajah yang muncul di layar terlihat seperti biasanya, suaranya terdengar akrab, dan ia meminta uang karena mengaku mengalami keadaan darurat. Orang tua mana yang tidak cemas mendengar permintaan semacam itu, terlebih jika disampaikan dengan wajah dan suara yang selama ini begitu dikenalnya?
Situasi tersebut menggambarkan salah satu ancaman dari perkembangan kecerdasan buatan atau artificial intelligence [AI]. Teknologi yang mampu menghasilkan wajah, suara, dan gerakan manusia secara sintetis kini dapat digunakan untuk menyamar sebagai seseorang yang sebenarnya tidak pernah melakukan percakapan tersebut. Apa yang dahulu menjadi dasar kepercayaan, yakni melihat wajah dan mendengar suara, tidak lagi selalu cukup untuk memastikan identitas seseorang.
Pada 19 Oktober 2026, INTERPOL mengumumkan kampanye internasional untuk meningkatkan kewaspadaan terhadap penipuan menggunakan deepfake. Organisasi kepolisian internasional tersebut memperingatkan bahwa teknologi AI generatif semakin memudahkan pembuatan identitas sintetis yang menyerupai manusia sesungguhnya. Ancaman itu tidak terbatas pada tokoh publik, sebab masyarakat biasa juga dapat menjadi sasaran penyamaran identitas, penipuan investasi, hubungan romantis palsu, dan pemerasan.
Perkembangan tersebut menimbulkan persoalan yang lebih besar daripada sekadar kemampuan membuat video palsu. Ketika sebuah kebohongan dapat menggunakan wajah orang yang dipercaya, korban tidak lagi hanya menghadapi cerita yang menyesatkan, tetapi juga bukti audiovisual yang terlihat meyakinkan. Pertanyaannya kemudian bukan hanya bagaimana mengenali deepfake, melainkan bagaimana manusia mempertahankan kepercayaan di tengah teknologi yang dapat merekayasa tanda-tanda keaslian.
Baca Juga: AI Bisa Membuat Apa Saja, tetapi Apakah Ia Punya Selera?
Ketika Wajah dan Suara Tidak Lagi Cukup Menjadi Bukti
Teknologi deepfake memanfaatkan pendekatan AI untuk menghasilkan atau mengubah konten audiovisual sehingga seseorang tampak mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah terjadi. Dalam konteks yang sah, teknologi serupa dapat digunakan untuk hiburan, produksi kreatif, atau membantu aksesibilitas. Persoalan muncul ketika kemampuan tersebut dimanfaatkan tanpa persetujuan untuk memalsukan identitas, menyebarkan informasi menyesatkan, atau memperoleh keuntungan melalui penipuan.
INTERPOL menjelaskan bahwa perkembangan AI generatif memungkinkan pelaku membuat tiruan wajah atau suara dengan memanfaatkan sejumlah kecil materi yang tersedia secara daring. Foto di media sosial, rekaman percakapan, atau cuplikan video dapat menjadi bagian dari bahan yang disalahgunakan. Pelaku kemudian dapat membangun komunikasi yang tampaknya berasal dari anggota keluarga, rekan kerja, maupun seseorang yang memiliki hubungan emosional dengan korban.
Ancaman semacam ini tidak hanya berkaitan dengan kualitas teknologi, tetapi juga kemampuan penipu memanfaatkan situasi psikologis seseorang. Permintaan uang yang mendesak, cerita tentang kecelakaan, atau ancaman terhadap keselamatan anggota keluarga dapat membuat korban merasa harus segera bertindak. Dalam keadaan panik, kesempatan untuk memeriksa informasi sering menyempit, sementara suara atau wajah yang dikenali justru memperkuat dorongan untuk percaya.
Dalam Global Financial Fraud Threat Assessment yang diterbitkan pada Maret 2026, INTERPOL memperingatkan bahwa penipuan berbantuan AI diperkirakan dapat menghasilkan keuntungan 4,5 kali lipat dibandingkan taktik penipuan yang tidak menggunakan AI. Angka tersebut merupakan estimasi dalam penilaian ancaman, bukan ukuran keberhasilan setiap tindak penipuan. Laporan itu memperlihatkan bagaimana teknologi dapat meningkatkan efisiensi dan daya jangkau kejahatan, termasuk melalui otomatisasi komunikasi dan pembuatan materi yang semakin meyakinkan.
Kerugian akibat penyalahgunaan AI juga tidak selalu berbentuk kehilangan uang. Seseorang dapat mengalami kerusakan reputasi ketika wajahnya digunakan dalam video palsu, atau menghadapi pemerasan melalui konten intim sintetis yang dibuat tanpa persetujuan. Korban bahkan dapat dipaksa membuktikan bahwa sesuatu yang tampak memperlihatkan dirinya sebenarnya merupakan hasil rekayasa.
Dalam keadaan seperti ini, masyarakat menghadapi dua risiko yang saling bertentangan. Mereka dapat mempercayai sesuatu yang palsu karena terlihat nyata, tetapi juga mulai meragukan rekaman asli dengan alasan bahwa semuanya mungkin dibuat menggunakan AI. Ketika kemampuan membedakan bukti dan rekayasa semakin melemah, kepercayaan terhadap informasi, hubungan personal, dan proses pembuktian dapat ikut terganggu.
Baca Juga: Uncanny Valley: Semakin Mirip Manusia, Mengapa Wajah Buatan AI Justru Terasa Menyeramkan?
Kecerdasan Tanpa Nilai, Siapa yang Bertanggung Jawab atas Penyalahgunaannya?
Pertanyaan mengenai hubungan antara kemampuan AI dan nilai manusia mendapat perhatian dalam pemikiran Wendra Wilendra, M.MT., melalui bukunya The Missing Layer in AI. Wendra mengembangkan gagasan bahwa AI tidak cukup hanya mampu memahami instruksi dan menghasilkan jawaban, tetapi juga perlu memperhatikan konteks, nilai, dan prinsip yang melandasi keputusan manusia. Melalui pengembangan ARAY dan kerangka VCORETEX, ia mengeksplorasi bagaimana sebuah sistem dapat mempertahankan pemahaman terhadap nilai yang ingin dijaga penggunanya.
Gagasan tersebut menawarkan sudut pandang bahwa kecerdasan teknis tidak sama dengan kebijaksanaan dalam menggunakan kemampuan. Sebuah sistem mungkin sangat mahir meniru suara, membentuk wajah sintetis, atau menyusun percakapan yang meyakinkan, tetapi kemampuan tersebut tidak dengan sendirinya menentukan apakah penggunaannya dapat dibenarkan. Dalam konteks penyalahgunaan AI, perbedaan antara apa yang mampu dilakukan teknologi dan apa yang seharusnya dilakukan menjadi semakin penting.
Meski begitu, pemikiran mengenai AI yang mengikuti nilai manusia juga menghadapi persoalan mendasar. Bagaimana jika orang yang menggunakan sistem justru memiliki niat melakukan penipuan, manipulasi, atau pemerasan? Apabila AI hanya dirancang untuk memahami serta menuruti tujuan penggunanya, personalisasi yang semakin canggih berpotensi berubah menjadi alat untuk menjalankan niat yang merugikan orang lain.
Di sinilah gagasan Wendra dapat dibaca sekaligus diuji secara kritis. Memahami nilai pengguna merupakan salah satu kemungkinan untuk membangun interaksi AI yang lebih bertanggung jawab, tetapi tidak cukup apabila sistem tidak memiliki batasan terhadap tindakan yang berbahaya. Pengembang teknologi juga perlu mempertimbangkan perlindungan terhadap pihak lain yang mungkin terdampak, termasuk mereka yang tidak pernah menjadi pengguna sistem tersebut.
Tanggung jawab atas kejahatan berbantuan AI juga tidak dapat dipindahkan begitu saja kepada mesin. Manusia yang menyalahgunakan teknologi tetap bertanggung jawab atas tindakannya, sementara penyedia layanan memiliki peran dalam mengurangi peluang penyalahgunaan melalui pengamanan, pembatasan fitur berisiko, dan mekanisme pelaporan. Pada saat yang sama, lembaga keuangan, platform digital, serta penegak hukum perlu mengembangkan kemampuan menghadapi penipuan yang metode dan skalanya terus berubah.
Bagi masyarakat, perubahan paling mendasar mungkin terletak pada kebiasaan memverifikasi identitas. Federal Bureau of Investigation [FBI] Amerika Serikat menyarankan agar seseorang yang menerima permintaan mencurigakan menghubungi pihak yang mengaku menelepon melalui nomor atau saluran komunikasi yang telah diketahui secara independen. Permintaan transfer mendesak, terutama yang disertai tekanan untuk merahasiakan percakapan, perlu diperiksa tanpa hanya mengandalkan kesamaan wajah maupun suara.
Langkah tersebut tidak berarti manusia harus selalu mencurigai anggota keluarga atau kehilangan kepercayaan kepada orang-orang terdekat. Justru sebaliknya, verifikasi dapat menjadi bentuk perlindungan terhadap hubungan yang selama ini dibangun berdasarkan rasa percaya. Ketika teknologi mampu meniru identitas, memastikan bahwa seseorang benar-benar berbicara dengan orang yang dikenalnya merupakan kebiasaan baru yang semakin diperlukan.
Kemajuan AI memberi manusia kemampuan yang dahulu sulit dibayangkan, termasuk menghadirkan kembali suara, membuat representasi visual, dan menjembatani berbagai keterbatasan komunikasi. Akan tetapi, kemampuan yang sama dapat digunakan untuk merusak reputasi, mengeksploitasi ketakutan, dan mengambil sesuatu yang bukan haknya. Karena itu, pertanyaan mengenai masa depan AI tidak cukup berhenti pada seberapa nyata wajah yang bisa dihasilkannya, tetapi harus mencakup siapa yang mengendalikan penggunaannya dan bagaimana masyarakat dilindungi dari penyalahgunaan.
Mungkin tantangan terbesar kehidupan digital mendatang bukan sekadar membedakan gambar asli dari gambar buatan AI. Tantangannya adalah memastikan bahwa ketika mata dan telinga tidak lagi selalu dapat menjadi saksi yang dapat diandalkan, manusia masih memiliki cara untuk memeriksa kebenaran tanpa kehilangan kepercayaan kepada sesamanya. Sebab, teknologi yang dapat menyerupai siapa saja seharusnya tidak membuat setiap orang menjadi mudah ditipu, ataupun membuat semua orang selalu dicurigai. [][Rudi Tenggarawan/KK]
Penulisan artikel ini dibantu AI dan telah melewati proses kurasi Redaksi.
