AI membuat waktu mencari jawaban menjadi sangat singkat. Faktanya, semakin cepat sebuah jawaban datang, semakin penting kemampuan manusia mengetahui bagian mana yang belum layak dipercaya.
Sebuah pertanyaan yang dahulu membutuhkan beberapa pencarian kini dapat dijawab sebelum kopi sempat diseruput. AI bisa merangkum persoalan, memberikan angka, menyebut penelitian, bahkan menyusun daftar sumber dalam hitungan detik. Jawabannya rapi dan sering terdengar seperti seseorang yang sudah lama memahami persoalan tersebut.
Kemudahan itu membuat pekerjaan terasa jauh lebih cepat. Masalah muncul ketika jawaban yang lancar kemudian diperlakukan seperti jawaban yang sudah benar. Nama ahli terdengar masuk akal, angka terlihat presisi, dan referensi ditulis meyakinkan, sehingga dorongan untuk memeriksanya justru semakin kecil.
Wendra Wilendra, M.MT., praktisi branding dan AI Strategist yang juga meneliti pemanfaatan ChatGPT dalam strategi pemasaran industri kosmetik, melihat persoalan tersebut sebagai konsekuensi dari cara AI menghasilkan respons. Ia menekankan bahwa pengguna kerap menghubungkan gaya penyampaian AI dengan kebenaran informasi, padahal AI membangun jawaban yang koheren berdasarkan pola dan konteks, bukan mengukur keyakinannya sendiri bahwa jawaban tersebut benar.
Baca Juga: Semakin Banyak Orang Curhat kepada AI. Apakah Itu Membantu, atau Justru Berbahaya?
Jawaban yang Terdengar Meyakinkan Belum Menjadi Bukti
Bayangkan AI diminta mencari lima penelitian untuk mendukung sebuah presentasi. Beberapa detik kemudian muncul nama penulis, tahun penelitian, judul jurnal, dan rangkuman temuan. Karena semuanya terlihat lengkap, hasil tersebut langsung dipindahkan ke dalam bahan presentasi tanpa membuka satu pun sumber aslinya.
Masalah baru diketahui ketika salah satu judul dicari dan tidak ditemukan. Nama penelitinya nyata, jurnalnya juga ada, tetapi penelitian yang disebut ternyata tidak pernah diterbitkan. Dalam kasus lain, sumbernya benar-benar tersedia, tetapi kesimpulan AI berbeda dari apa yang sebenarnya ditulis peneliti.
Fenomena tersebut dikenal sebagai hallucination. Sistem generatif dapat menghasilkan informasi yang tampak masuk akal tetapi keliru, termasuk fakta, kutipan, maupun referensi yang tidak tersedia. Stanford Law School bahkan membahas persoalan ini dalam konteks hukum dan menekankan perlunya human oversight, termasuk memvalidasi serta meninjau kembali keluaran AI.
Yang membuatnya berbahaya bukan hanya kesalahannya. AI dapat menyampaikan informasi keliru menggunakan bahasa yang sama lancarnya dengan ketika memberikan informasi benar. Tidak selalu ada nada ragu, kalimat tersendat, atau ekspresi wajah yang memberi tahu pengguna bahwa sesuatu mungkin perlu diperiksa.
Wendra menempatkan manusia sebagai penentu arah dalam hubungan tersebut. AI dapat mempercepat pencarian kemungkinan, menyusun informasi, dan membantu membangun struktur berpikir, tetapi manusia tetap perlu menentukan konteks serta menilai keluaran yang dihasilkan. Pandangan itu juga tampak dalam gagasannya bahwa AI bukan pengganti manusia, melainkan alat yang tetap membutuhkan manusia sebagai 'pilot' untuk menentukan arah penggunaannya.
Persoalannya menjadi semakin besar ketika jawaban digunakan untuk mengambil keputusan. Kesalahan rekomendasi film mungkin hanya berakhir dengan dua jam yang mengecewakan, sedangkan informasi keliru mengenai kesehatan, hukum, keuangan, penelitian, atau strategi bisnis dapat membawa konsekuensi berbeda. Semakin besar dampak sebuah jawaban, semakin tidak masuk akal memperlakukannya sebagai produk yang selesai hanya karena dihasilkan dengan cepat.
Baca Juga: Kita Sudah Berkali-kali Mengajari AI. Mengapa Ia Masih Bisa Mengulangi Kesalahan yang Sama?
AI Menghemat Waktu Mencari, Bukan Menghapus Pekerjaan Memastikan
Stanford Institute for Human-Centered Artificial Intelligence [HAI] mengingatkan bahwa teknologi generatif menawarkan peluang besar untuk meningkatkan produktivitas dan kreativitas, tetapi juga dapat memperbesar bias dan mengganggu kepercayaan terhadap informasi. Persoalannya karena itu bukan memilih antara menggunakan atau menolak AI. Tantangannya justru memanfaatkan kecepatannya tanpa menyerahkan seluruh proses penilaian kepada mesin.
Cara memeriksa jawaban pun tidak harus berarti mengetik pertanyaan yang sama kepada AI untuk kedua kalinya. Model dapat menghasilkan jawaban berbeda, tetapi jawaban kedua tetap berasal dari sistem generatif yang mempunyai keterbatasan serupa. Verifikasi membutuhkan sesuatu di luar klaim tersebut: sumber primer, publikasi ilmiah, dokumen resmi, data institusi, atau keterangan pihak yang memang mempunyai kompetensi pada bidangnya.
Jika AI menyebut sebuah penelitian, misalnya, penelitian aslinya perlu ditemukan. Jika memberikan statistik, lembaga yang menghasilkan data tersebut perlu diperiksa. Ketika AI mengutip seseorang, pengguna perlu memastikan orang itu benar-benar pernah mengucapkannya dan konteks pernyataannya tidak berubah ketika dirangkum.
Dikutip dari arXiv, riset terbaru Simon J. Blanchard, Aaron M. Garvey, dan Laura O'Laughlin juga menunjukkan bahwa persoalan verifikasi lebih rumit daripada sekadar meminta pengguna bersikap skeptis. Dalam kajian mereka mengenai AI advisors, para peneliti membedakan antara menyadari bahwa informasi mungkin perlu diperiksa, benar-benar melakukan pemeriksaan, berhasil memverifikasinya, dan kemudian menggunakan hasil verifikasi tersebut dalam keputusan. Curiga terhadap jawaban AI rupanya baru merupakan langkah pertama.
Ada paradoks yang kemudian muncul. Sebelum AI, mencari lima sumber mungkin membutuhkan setengah jam sehingga orang cenderung membaca sumber yang ditemukan selama proses pencarian. Sekarang AI dapat memberikan lima sumber dalam beberapa detik, tetapi waktu yang berhasil dihemat seharusnya tidak seluruhnya dianggap sebagai waktu bebas.
Sebagian waktu tersebut berpindah fungsi. Manusia tidak lagi harus menghabiskan terlalu banyak tenaga untuk memulai pencarian, menyusun kerangka, atau menemukan kemungkinan awal, tetapi perlu menggunakannya untuk membaca, membandingkan, mempertanyakan, dan menentukan apa yang layak digunakan. Kecepatan berpindah ke mesin, sementara tanggung jawab penilaian tetap berada pada manusia.
Itulah sebabnya keterampilan penting pada era AI mungkin bukan hanya kemampuan membuat prompt yang semakin canggih. Kemampuan bertanya “dari mana informasi ini berasal?”, “apakah sumbernya benar-benar ada?”, dan “apa yang dikatakan sumber aslinya?” justru semakin bernilai. Semakin mudah sebuah jawaban diproduksi, semakin penting kemampuan membedakan jawaban dengan pengetahuan yang sudah diperiksa.
AI memang dapat memangkas perjalanan dari pertanyaan menuju jawaban menjadi beberapa detik. Namun beberapa detik itu sebaiknya dipahami sebagai awal pekerjaan, bukan selalu sebagai garis finis. Sebab teknologi telah membuat manusia jauh lebih cepat mendapatkan sesuatu yang terdengar seperti jawaban, sementara memastikan bahwa jawaban tersebut layak dipercaya tetap membutuhkan pekerjaan yang tidak bisa diselesaikan hanya dengan terdengar meyakinkan. [][Rudi Tenggarawan/KK]
Penulisan artikel ini dibantu AI dan telah melewati proses kurasi Redaksi.
