Konferensi Neural Information Processing Systems (NeurIPS) merupakan salah satu forum ilmiah paling bergengsi di bidang kecerdasan buatan dan machine learning. Namun, kredibilitas publikasi ilmiah di ajang ini sempat menjadi sorotan setelah ditemukan bahwa sejumlah makalah mengandung rujukan palsu atau hasil “halusinasi” dari sistem AI.
Sebuah laporan yang dipublikasikan oleh Fortune mengungkap bahwa dari ribuan makalah yang diterima di NeurIPS 2025, terdapat lebih dari 100 sitasi yang tidak valid, tersebar di puluhan makalah berbeda. Sitasi tersebut merujuk pada artikel, jurnal, atau penulis yang sebenarnya tidak pernah ada .
Baca Juga : Perseteruan Elon Musk vs Sam Altman di X terkait AI
Fenomena Hallucinated Citations
Rujukan palsu ini diyakini muncul akibat penggunaan model bahasa besar (Large Language Model/LLM) dalam proses penulisan makalah. Model AI semacam ini mampu menghasilkan referensi yang tampak ilmiah dan meyakinkan, tetapi pada kenyataannya merupakan hasil rekayasa teks semata. Fenomena ini dikenal sebagai hallucinated citations.
Media TechCrunch melaporkan bahwa ironisnya, masalah ini justru terjadi di konferensi AI terkemuka, tempat para peneliti seharusnya paling memahami keterbatasan teknologi AI itu sendiri. Temuan ini menunjukkan bahwa penggunaan AI tanpa verifikasi manual yang ketat dapat merusak keakuratan karya ilmiah .
Tantangan bagi Sistem Peer Review
Walaupun NeurIPS telah menerapkan sistem peer review berlapis, meningkatnya jumlah makalah yang masuk setiap tahun membuat proses evaluasi menjadi semakin kompleks. Akibatnya, kesalahan dalam daftar pustaka masih dapat lolos hingga tahap publikasi akhir.
Menurut laporan yang sama, pihak penyelenggara NeurIPS menilai bahwa sebagian besar kesalahan rujukan tersebut tidak serta-merta membatalkan kualitas riset secara keseluruhan, tetapi tetap menjadi masalah serius karena referensi ilmiah merupakan fondasi utama dalam penelitian akademik .
Dampak bagi Dunia Akademik
Keberadaan rujukan palsu dapat menimbulkan efek berantai, mulai dari menyesatkan peneliti lain, merusak jaringan sitasi ilmiah, hingga menurunkan kepercayaan terhadap publikasi berbasis AI. Kasus ini juga menjadi peringatan bahwa adopsi AI dalam dunia akademik harus diimbangi dengan standar verifikasi yang lebih ketat.
Sebagai tindak lanjut, beberapa konferensi AI besar mulai mempertimbangkan penggunaan alat pendeteksi otomatis untuk memeriksa keabsahan sitasi, guna mencegah masalah serupa di masa mendatang .
Penutup
Kasus rujukan palsu di NeurIPS mencerminkan tantangan baru dalam ekosistem riset modern. Di satu sisi, AI menawarkan efisiensi dan percepatan penulisan ilmiah. Namun di sisi lain, tanpa pengawasan manusia yang memadai, teknologi ini berpotensi menurunkan kualitas dan integritas penelitian. Oleh karena itu, kolaborasi antara teknologi AI dan tanggung jawab akademik menjadi kunci untuk menjaga mutu publikasi ilmiah ke depan.
Sumber Berita
Fortune – laporan tentang rujukan palsu di makalah NeurIPS
TechCrunch – analisis penggunaan AI dan hallucinated citations di konferensi AI
GPTZero News – temuan dan analisis teknis tentang sitasi hasil halusinasi AI
