Halusinasi AI dan ancaman integritas ilmiah

AI merupakan alat bantu yang bermanfaat, tetapi bukan sumber kebenaran yang dapat diterima tanpa pemeriksaan

Jakarta (ANTARA) - Seorang mahasiswa sedang menyiapkan proposal penelitian dengan bantuan kecerdasan buatan atau artificial intelligence (AI). Dalam beberapa detik, AI menyajikan sepuluh referensi lengkap dengan nama penulis, tahun penerbitan, judul artikel, nama jurnal, dan nomor digital object identifier (DOI).

Mahasiswa tersebut merasa pekerjaannya menjadi lebih mudah. Namun, ketika beberapa referensi diperiksa melalui situs penerbit, artikel yang dimaksud ternyata tidak ditemukan. Ada pula DOI yang mengarah ke artikel dengan judul dan penulis berbeda.

Bagaimana mungkin AI menghasilkan referensi ilmiah yang terlihat lengkap, tetapi sebenarnya tidak pernah diterbitkan?

Fenomena ini dikenal sebagai halusinasi AI (AI hallucination), yaitu ketika sistem AI menghasilkan informasi keliru atau tidak didukung bukti, tetapi menyampaikannya dengan bahasa yang meyakinkan.

Dalam dunia akademik, kesalahan tersebut dapat mempengaruhi penelusuran literatur, penyusunan proposal, interpretasi data, hingga penulisan manuskrip ilmiah.

Model bahasa besar atau large language model (LLM), seperti ChatGPT, dilatih menggunakan kumpulan teks dalam jumlah sangat besar. Model mempelajari pola bahasa, hubungan antarkonsep, dan informasi yang terkandung dalam data pelatihan.

Ketika menerima pertanyaan, AI menghasilkan jawaban berdasarkan pola yang dipelajari dan konteks yang diberikan pengguna. Kemampuan tersebut memungkinkan AI menjelaskan konsep rumit dan menyusun tulisan secara terstruktur.

Persoalannya, kemampuan menghasilkan kalimat yang masuk akal tidak selalu disertai pemeriksaan kebenaran informasi. AI dapat menggabungkan fakta yang benar dengan informasi keliru atau memberikan jawaban ketika bukti yang tersedia belum mencukupi.

Kalai dan rekan-rekannya (2025), dalam penelitian Why Language Models Hallucinate, menjelaskan bahwa halusinasi berkaitan dengan proses pelatihan dan evaluasi model bahasa. Sistem penilaian yang lebih menghargai jawaban benar daripada pengakuan ketidakpastian dapat mendorong model menebak ketika tidak mengetahui jawabannya.

Situasi ini menyerupai mahasiswa yang menghadapi pertanyaan ujian tanpa mengetahui jawabannya. Sebagian memilih tidak menjawab, sedangkan lainnya mencoba menebak. Perbedaannya, dugaan AI sering disampaikan dengan bahasa lancar dan istilah teknis yang terlihat ilmiah.

Referensi tidak ada

Referensi merupakan landasan penting dalam penelitian. Melalui publikasi terdahulu, peneliti memahami perkembangan ilmu, metode yang digunakan, serta persoalan yang belum terjawab.

Sebagai contoh, mahasiswa yang meneliti tanah vulkanis meminta AI mencarikan publikasi mengenai hubungan mineral nonkristalin dengan retensi fosfat pada andisols. AI mungkin menghasilkan daftar artikel lengkap dengan nama jurnal dan DOI.

Sebagian referensi tersebut mungkin benar, sedangkan lainnya merupakan gabungan nama penulis, judul, dan informasi bibliografi dari publikasi berbeda.

Saya pernah menemukan kasus serupa ketika memeriksa daftar pustaka proposal penelitian dan skripsi mahasiswa. Nama saya tercantum sebagai penulis beberapa artikel ilmiah, padahal saya tidak pernah menulis atau menerbitkan artikel tersebut.

Pengalaman tersebut menunjukkan pentingnya memeriksa keaslian referensi sebelum mencantumkannya dalam karya ilmiah. Kesalahan bibliografi tidak selalu berasal dari AI, tetapi teknologi ini dapat menambah risiko apabila jawabannya diterima tanpa pemeriksaan.

Persoalan sitasi yang dihasilkan AI juga telah menjadi perhatian komunitas ilmiah internasional, termasuk dalam pembahasan yang diterbitkan jurnal Nature pada 2025 dan 2026.

Keberadaan DOI tidak otomatis menjamin kebenaran referensi. Nomor tersebut perlu diperiksa melalui Crossref atau situs penerbit untuk memastikan kesesuaian judul, nama penulis, tahun, dan isi publikasi.

Kesalahan interpretasi data

Copyright © ANTARA 2026

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.