Lensakabar.com, Jakarta - Kecerdasan buatan atau Artificial Intelligence (AI) semakin banyak dimanfaatkan untuk mencari informasi, mengerjakan tugas, membuat konten, hingga membantu pekerjaan profesional. Namun, kemampuannya menghasilkan jawaban yang lancar dan meyakinkan tidak selalu sejalan dengan ketepatan fakta. Salah satu risiko yang perlu dipahami pengguna adalah AI hallucination atau halusinasi AI, yakni ketika sistem menghasilkan informasi keliru, sumber yang tidak ada, atau detail yang tidak didukung bukti.

Masalahnya, informasi yang salah itu dapat disampaikan dengan bahasa yang rapi, struktur yang sistematis, bahkan dilengkapi nama, tanggal, dan referensi yang terlihat meyakinkan. Pengguna yang tidak melakukan verifikasi berisiko menerima informasi tersebut sebagai fakta.

Karakter edukasi teknologi Otiz menjelaskan bahwa halusinasi AI dapat membuat pengguna terkecoh karena jawaban mesin terkadang terdengar lebih meyakinkan daripada penjelasan orang yang sebenarnya memahami persoalan. Karena itu, kelancaran bahasa dan kepercayaan diri sebuah jawaban tidak dapat dijadikan ukuran tunggal untuk menilai kebenarannya.

Mengapa AI Punya 'Kepercayaan Diri' Mengarang Bual Fiktif?

Halusinasi AI berkaitan dengan cara model bahasa besar atau Large Language Model (LLM) menghasilkan teks. Model dilatih menggunakan data dalam jumlah besar untuk mempelajari pola bahasa dan hubungan antarkata, kemudian menghasilkan rangkaian token berdasarkan konteks serta instruksi yang diberikan.

Proses tersebut memungkinkan AI menyusun penjelasan, merangkum dokumen, dan menjawab pertanyaan dengan cepat. Namun, kemampuan memprediksi rangkaian kata yang sesuai tidak otomatis membuat sistem mampu memastikan bahwa setiap pernyataan yang dihasilkan benar secara faktual.

Ketika menghadapi pertanyaan yang ambigu, informasi yang jarang tersedia, atau permintaan yang mengandung asumsi keliru, model dapat menghasilkan jawaban yang masuk akal secara bahasa tetapi tidak memiliki dasar fakta yang memadai.

Misalnya, pengguna meminta daftar buku akademik tentang suatu topik yang sebenarnya tidak pernah dibahas dalam buku tertentu. Alih-alih menyatakan bahwa informasi tersebut belum dapat dipastikan, AI bisa menghasilkan judul buku, nama penulis, tahun penerbitan, hingga ringkasan isi yang tampak autentik.

Pola serupa dapat terjadi pada kutipan, nama jurnal ilmiah, nomor peraturan, statistik, dan referensi hukum. Format yang terlihat profesional justru dapat membuat informasi palsu semakin sulit dikenali oleh pengguna awam.

Halusinasi bukan berarti AI sengaja berbohong seperti manusia. Fenomena ini merupakan kegagalan menghasilkan informasi yang sesuai dengan fakta. Risiko tersebut dapat dipengaruhi keterbatasan data, konteks yang tidak lengkap, ketidakpastian model, serta cara sistem dirancang dan dievaluasi.

Pelajaran dari Kasus Mata v. Avianca: Bencana Riset Hukum Fiktif Akibat ChatGPT

Risiko halusinasi AI pernah muncul dalam proses hukum di Amerika Serikat melalui perkara Mata v. Avianca, Inc. pada 2023.

Dalam perkara tersebut, pengacara Steven Schwartz menggunakan ChatGPT untuk membantu riset hukum. Dokumen yang diajukan ke pengadilan memuat sejumlah preseden atau putusan yang ternyata tidak ada, lengkap dengan kutipan dan referensi yang dihasilkan AI.

Pengadilan Distrik Amerika Serikat untuk Distrik Selatan New York kemudian memeriksa persoalan tersebut. Dalam putusan 22 Juni 2023, hakim menemukan adanya kutipan putusan fiktif yang diajukan dalam dokumen perkara. Pengacara yang terlibat juga dikritik karena tidak memverifikasi keaslian referensi dan tetap mempertahankan kutipan tersebut ketika keabsahannya dipertanyakan.

Pengadilan menjatuhkan sanksi berdasarkan aturan prosedur perdata yang berlaku, termasuk kewajiban mengirimkan salinan putusan dan dokumen terkait kepada pihak-pihak yang ditentukan pengadilan.

Kasus tersebut menjadi contoh konkret bahwa informasi yang dihasilkan AI dapat menimbulkan konsekuensi profesional ketika digunakan tanpa pemeriksaan memadai. Dalam konteks hukum, keberadaan sebuah putusan, nomor perkara, nama hakim, dan kutipan harus dapat ditelusuri melalui dokumen resmi atau basis data hukum yang tepercaya.

Pelajaran yang sama berlaku pada bidang lain. Dalam kesehatan, informasi yang tidak akurat dapat memengaruhi keputusan seseorang mengenai pengobatan. Dalam keuangan, angka atau klaim yang keliru bisa memengaruhi keputusan investasi. Dalam jurnalistik, kutipan dan data yang tidak terverifikasi dapat menyesatkan pembaca serta merusak kredibilitas media.

Survei APJII 2026: Intip Peta 18,2% Pengguna AI di Indonesia

Perkembangan pemanfaatan AI di Indonesia membuat literasi mengenai keakuratan informasi semakin relevan. Survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII) pada 2026 memberikan gambaran mengenai penggunaan teknologi tersebut.

Menurut hasil survei yang dipublikasikan Katadata, sebanyak 18,2 persen responden mengakses konten AI pada 2026. Angka ini menunjukkan bahwa pemanfaatan AI belum merata pada seluruh responden, meskipun teknologinya semakin dikenal.

Di antara kelompok pengguna AI, tujuan penggunaan yang paling banyak disebut adalah hiburan, seperti pembuatan gambar dan video generatif, dengan persentase 36,5 persen. Edukasi dan riset, termasuk penggunaan chatbot dan ringkasan akademik, berada di posisi berikutnya sebesar 30,2 persen. Sementara itu, 26,9 persen menggunakan AI untuk pekerjaan dan produktivitas, seperti penulisan otomatis, copywriting, dan analisis data.

Baca Juga: Boom AI Dorong Ekonomi Asia 4,8%: Di Mana Posisi & Peluang Indonesia?

Survei tersebut melibatkan 8.700 responden berusia minimal 13 tahun yang tersebar di 38 provinsi. Pengumpulan data berlangsung pada 1 Februari hingga 15 Maret 2026 melalui wawancara tatap muka, dengan margin of error sekitar 1,1 persen. Responden dapat memilih lebih dari satu tujuan penggunaan.

Data ini memperlihatkan bahwa pemanfaatan AI tidak terbatas pada aktivitas teknis atau pekerjaan profesional. Teknologi tersebut juga digunakan untuk membuat konten hiburan, membantu proses belajar, serta mendukung produktivitas.

Penggunaan AI Diperkirakan Meluas, Literasi Digital Menjadi Kebutuhan

Ke depan, penggunaan AI berpotensi semakin luas seiring berkembangnya layanan generatif yang dapat membantu pembuatan teks, gambar, video, dan analisis informasi. Pemanfaatannya juga berpeluang berkembang dari sekadar menjawab pertanyaan menjadi pendamping berbagai proses kerja, pembelajaran, dan layanan digital.

Perkembangan tersebut merupakan proyeksi berdasarkan arah pemanfaatan teknologi, bukan angka prediksi resmi mengenai jumlah pengguna AI di Indonesia. Besarnya adopsi pada masa mendatang akan dipengaruhi oleh akses teknologi, biaya layanan, kemampuan pengguna, kepercayaan masyarakat, serta penerapan AI oleh perusahaan dan lembaga publik.

Jika pemanfaatannya meluas, kebutuhan untuk memeriksa hasil AI juga akan semakin penting. Pengguna tidak cukup hanya mengetahui cara memberikan instruksi atau prompt yang baik. Mereka perlu memahami kapan jawaban harus diperiksa kembali, sumber apa yang layak dipercaya, dan keputusan seperti apa yang tidak boleh hanya didasarkan pada keluaran mesin.

Bagi dunia pendidikan, AI dapat digunakan untuk membantu menjelaskan konsep dan menyusun bahan belajar, tetapi siswa tetap perlu memeriksa referensi serta memahami materi yang dipelajari. Di lingkungan kerja, hasil analisis dan dokumen yang dibuat AI perlu ditinjau oleh orang yang bertanggung jawab sebelum digunakan untuk mengambil keputusan atau disampaikan kepada publik.

Bagi perusahaan media, verifikasi nama narasumber, kutipan, tanggal, angka, dan dokumen sumber harus tetap menjadi bagian dari proses editorial. Penggunaan AI untuk mempercepat pekerjaan tidak menghilangkan tanggung jawab manusia terhadap informasi yang diterbitkan.

Baca Juga: Agentic AI di Indonesia Melaju, Risiko Keamanan dan Tata Kelola Mengintai

5 Langkah Krusial Menyaring Jawaban AI Agar Tak Menerima Informasi Sesat

Ada beberapa langkah yang dapat dilakukan untuk mengurangi risiko menerima informasi keliru dari AI.

Pertama, minta AI membedakan fakta yang diketahui, informasi yang belum terverifikasi, dan bagian yang hanya merupakan perkiraan. Pengguna juga dapat meminta sistem menyatakan secara terbuka jika tidak memiliki dasar yang cukup untuk menjawab. Cara ini dapat membantu, meskipun tidak menjamin AI selalu mengakui ketidakpastiannya.

Kedua, periksa sumber asli. Jika AI memberikan tautan, nama jurnal, kutipan, nomor perkara, atau peraturan, pastikan sumber tersebut benar-benar ada dan isinya mendukung pernyataan yang disampaikan. Tautan yang tampak valid belum tentu mengarah pada dokumen yang relevan.

Ketiga, gunakan sumber resmi untuk informasi penting. Peraturan dapat diperiksa melalui basis data perundang-undangan pemerintah, putusan melalui situs pengadilan, dan informasi kesehatan melalui lembaga kesehatan atau tenaga medis yang kompeten. Untuk berita, periksa dokumen primer dan konfirmasi kepada pihak terkait bila diperlukan.

Keempat, jangan mengandalkan satu jawaban untuk mengambil keputusan berisiko tinggi. Informasi tentang kesehatan, hukum, dan keuangan memerlukan pemeriksaan tambahan sesuai konteksnya. AI dapat membantu menyusun pertanyaan atau menjelaskan istilah, tetapi bukan pengganti verifikasi profesional.

Kelima, perbaiki kebiasaan penggunaan. Ketika menemukan jawaban yang sangat spesifik tetapi tidak disertai bukti yang dapat diperiksa, jangan langsung menganggap detail tersebut benar hanya karena disampaikan secara runtut. Semakin penting konsekuensi sebuah informasi, semakin kuat pula kebutuhan untuk memverifikasinya.

11 Prompt Anti-Halusinasi AI Praktis untuk Mencegah dan Menguji Halusinasi AI

Agar Anda bisa mengontrol dan menyaring jawaban AI agar lebih akurat, berikut adalah daftar contoh prompt yang dapat digunakan:

  1. Prompt Berbasis Bukti Langsung: "Jawablah pertanyaan berikut hanya berdasarkan teks atau dokumen yang saya berikan di bawah ini. Jika jawabannya tidak ada di dalam teks, katakan 'Saya tidak tahu'."

  2. Prompt Kewajiban Menyertakan Sumber: "Berikan jawaban Anda secara mendetail, dan pastikan untuk menyertakan tautan atau sumber referensi kredibel yang bisa saya verifikasi untuk setiap klaim fakta yang Anda buat."

  3. Prompt Tantangan Kepercayaan Diri (Self-Correction): "Seberapa yakin Anda dengan jawaban barusan di skala 1 sampai 10? Coba sebutkan potensi kelemahan atau bagian mana dari jawaban Anda yang paling rentan keliru."

  4. Prompt Instruksi Mengaku jika Ragu: "Jika Anda tidak memiliki informasi yang cukup akurat atau pertanyaan ini bersifat ambigu, lebih baik katakan 'Saya tidak tahu' daripada mencoba menebak-nebak."

  5. Prompt Analisis Dua Sisi (Devil’s Advocate): "Berikan argumen pendukung untuk topik ini, lalu buat juga argumen tandingan atau sudut pandang sebaliknya secara objektif agar saya bisa melihat gambaran utuhnya."

  6. Prompt Validasi Langkah demi Langkah: "Jelaskan proses atau rumus berpikir Anda langkah demi langkah secara logis dalam menjawab pertanyaan ini, agar saya bisa memeriksa di mana letak potensi kesalahannya."

  7. Prompt Permintaan Penilaian Risiko: "Sebelum memberikan rekomendasi tindakan untuk masalah kesehatan/keuangan ini, identifikasi terlebih dahulu apa saja risiko terburuk jika informasi yang Anda berikan ternyata salah."

  8. Prompt Batasan Konteks Waktu: "Fokuskan jawaban Anda hanya pada data, regulasi, atau peristiwa yang valid dan terjadi setelah tahun 2024. Abaikan informasi usang."

  9. Prompt Uji Tuntas (Fact-Checking Command): "Cek kembali jawaban yang baru saja Anda berikan. Apakah ada asumsi tersembunyi atau informasi spekulatif yang menyamar sebagai fakta? Koreksi jika ada."

  10. Prompt Perbandingan Sumber Eksternal: "Bandingkan dua sudut pandang berbeda mengenai isu ini dari sumber media arus utama yang kredibel, lalu sebutkan letak perbedaannya secara faktual."

  11. Prompt Validasi Akhir untuk Keputusan Penting: "Saya akan menggunakan informasi ini untuk keputusan penting. Berikan ringkasan poin mana saja dari jawaban Anda yang wajib saya verifikasi ulang secara mandiri sebelum saya eksekusi."

Pada akhirnya, manfaat AI sangat bergantung pada cara teknologi tersebut digunakan. Kecepatan dan kemudahan yang ditawarkan dapat membantu berbagai aktivitas, tetapi pengguna tetap perlu menjaga sikap kritis. Jawaban yang terdengar yakin belum tentu benar, dan setiap informasi penting harus memiliki dasar yang dapat diperiksa.