Teknologi

Mengapa AI Kadangkala Menghasilkan Fakta yang Salah?

Menengah RendahBukan FiksyenBahasa Melayu 11 minit
Murid menyemak jawapan kecerdasan buatan menggunakan buku rujukan untuk mengesan maklumat yang salah.

Kredit imej: Ilustrasi janaan AI untuk Nilam Online / Edura Creative.

🏫 Sokong sekolah anda dalam Liga Membaca Nilam Online

Pilih sekolah anda supaya bacaan anda nanti boleh membantu sekolah naik dalam ranking bulanan.

Anda masih boleh membaca tanpa memilih sekolah.

Bayangkan kamu sedang menyiapkan kerja sekolah tentang sejarah.

Kamu membuka sebuah aplikasi kecerdasan buatan, atau artificial intelligence (AI), lalu menaip satu soalan.

Dalam beberapa saat, jawapan muncul di skrin.

Ayatnya tersusun. Penerangannya panjang dan jelas. Malah, ada nama tokoh, tarikh dan maklumat yang kelihatan seperti diambil daripada buku sejarah.

Kamu berasa lega kerana tidak perlu mencari maklumat terlalu lama.

Namun, ketika menyemak jawapan itu dengan buku teks, kamu mendapati satu tarikh yang diberikan sebenarnya salah.

Kamu membaca semula jawapan AI tersebut.

Anehnya, AI tidak menyatakan bahawa ia kurang pasti. Jawapannya ditulis dengan begitu yakin, seolah-olah semua maklumat itu benar.

Mengapakah perkara ini boleh berlaku?

Adakah AI sengaja menipu? Adakah sistem tersebut rosak? Atau adakah terdapat sesuatu tentang cara AI berfungsi yang menyebabkan kesilapan seperti ini?

Untuk memahami jawapannya, kita perlu mengetahui bagaimana AI menghasilkan maklumat.

AI bukan sekadar mesin pencari

Apabila kamu menggunakan enjin carian Internet, kamu biasanya akan menerima senarai laman web, artikel atau dokumen yang berkaitan dengan perkara yang dicari.

Sistem AI berbentuk chatbot pula boleh menghasilkan jawapan dalam bentuk perbualan.

Contohnya, kamu boleh meminta AI menerangkan proses fotosintesis, mencadangkan rangka karangan atau membantu memahami soalan Matematik.

Jawapannya selalunya kelihatan seperti penerangan seorang manusia.

Tetapi ada perbezaan penting.

Model bahasa AI tidak semestinya mencari jawapan daripada sumber yang telah disahkan setiap kali kamu bertanya.

Banyak model bahasa dilatih menggunakan sejumlah besar teks supaya dapat mempelajari corak, hubungan antara perkataan dan cara bahasa digunakan.

Semasa menghasilkan jawapan, model menggunakan corak yang dipelajari bersama konteks perbualan untuk meramalkan dan memilih bahagian teks seterusnya.

Proses ini berlaku berulang kali sehingga terbentuk ayat dan perenggan yang lengkap.

Walaupun penerangan tersebut mungkin betul, kemampuan menghasilkan ayat yang lancar tidak menjamin bahawa setiap fakta di dalamnya benar.

Penyelidikan OpenAI yang diterbitkan pada September 2025 menjelaskan bahawa proses ramalan bahasa merupakan salah satu asas untuk memahami mengapa kesilapan fakta masih berlaku dalam model AI.

Apakah yang dimaksudkan dengan halusinasi AI?

Dalam bidang kecerdasan buatan, istilah halusinasi AI digunakan apabila sistem menghasilkan maklumat yang kelihatan munasabah tetapi sebenarnya tidak tepat atau tidak mempunyai sokongan fakta.

Istilah ini tidak bermaksud AI mengalami halusinasi seperti manusia.

Ia merupakan istilah teknikal bagi menerangkan kesilapan tertentu dalam kandungan yang dijana.

Sebagai contoh, bayangkan kamu meminta AI mencadangkan sebuah buku tentang astronomi.

AI mungkin memberikan tajuk, nama pengarang, tahun penerbitan dan sinopsis yang kelihatan lengkap.

Namun, apabila kamu mencari buku tersebut di katalog perpustakaan dan laman penerbit, buku itu tidak ditemukan.

Ada kemungkinan AI telah menghasilkan butiran sebuah buku yang sebenarnya tidak wujud.

Begitu juga apabila AI memberikan petikan kata-kata seseorang tokoh.

Ayat itu mungkin kedengaran bijak, tetapi tokoh tersebut belum tentu pernah mengucapkannya.

Halusinasi AI boleh melibatkan nama, tarikh, statistik, petikan, rujukan akademik ataupun penerangan tentang sesuatu peristiwa.

Mengapa AI boleh menghasilkan jawapan yang salah?

Terdapat beberapa sebab mengapa kesilapan seperti ini berlaku.

Pertama, AI mempelajari corak daripada data, bukan menghafal sebuah ensiklopedia yang telah disemak sepenuhnya.

Semasa latihan, model bahasa mempelajari banyak hubungan antara perkataan, ayat dan idea.

Walaupun latihan ini membolehkannya menghasilkan jawapan yang berguna, model tersebut tidak semestinya dapat membezakan fakta benar daripada maklumat salah dalam setiap keadaan.

Kedua, sesetengah soalan mempunyai maklumat yang tidak mencukupi.

Bayangkan kamu bertanya, β€œSiapakah yang memenangi pertandingan itu pada tahun lalu?”

Pertandingan yang mana satu? Tahun yang dimaksudkan ialah tahun berapa?

Tanpa maklumat yang jelas, AI mungkin membuat andaian yang tidak tepat.

Model yang lebih berhati-hati sepatutnya meminta penjelasan terlebih dahulu atau menyatakan bahawa maklumat belum mencukupi.

Ketiga, AI mungkin tidak mempunyai maklumat terkini.

Sesetengah model menggunakan pengetahuan yang dipelajari sehingga tempoh tertentu.

Jika model tidak menggunakan carian Internet atau sumber terkini, ia mungkin memberikan maklumat yang sudah berubah.

Contohnya, nama pemegang sesuatu jawatan, harga barangan atau keputusan pertandingan boleh berubah mengikut masa.

Keempat, AI boleh menggabungkan maklumat yang tidak sepatutnya digabungkan.

Bayangkan terdapat dua orang penulis yang mempunyai nama hampir sama.

AI mungkin tersalah mengaitkan buku seorang penulis dengan penulis yang lain.

Kesilapan ini boleh menghasilkan jawapan yang kelihatan lengkap tetapi sebenarnya mencampuradukkan fakta.

Mengapa AI terdengar begitu yakin?

Inilah bahagian yang paling menarik.

Cara sesuatu jawapan ditulis tidak semestinya mencerminkan tahap ketepatannya.

AI boleh menghasilkan ayat yang lancar, tersusun dan menggunakan bahasa yang meyakinkan.

Namun, gaya bahasa tersebut bukan bukti bahawa semua fakta telah disahkan.

Dalam penyelidikan OpenAI pada tahun 2025, penyelidik turut membincangkan bagaimana kaedah latihan dan penilaian tertentu boleh menggalakkan model membuat tekaan apabila tidak pasti.

Bayangkan seorang murid menjawab soalan peperiksaan.

Jika jawapan salah dan jawapan kosong kedua-duanya memperoleh sifar markah, murid tersebut mungkin memilih untuk meneka.

Begitu juga, sesetengah kaedah penilaian AI boleh memberikan kelebihan kepada model yang terus menghasilkan jawapan berbanding model yang mengakui ketidakpastian.

Oleh itu, penyelidik mencadangkan supaya sistem AI turut dinilai berdasarkan keupayaannya mengenali keadaan apabila sesuatu jawapan tidak dapat dipastikan.

Adakah AI sengaja menipu?

Tidak semestinya.

Apabila AI menghasilkan fakta yang salah, kita tidak boleh terus menganggap bahawa sistem itu mempunyai niat untuk memperdaya manusia.

Model bahasa tidak mempunyai niat seperti manusia ketika memilih untuk bercakap benar atau berbohong.

Ia menghasilkan respons berdasarkan cara sistem dibina, dilatih dan digunakan.

Namun, kesannya kepada pengguna tetap penting.

Jika maklumat salah digunakan dalam tugasan sekolah, murid mungkin mempelajari fakta yang tidak tepat.

Jika maklumat tersebut dikongsi tanpa diperiksa, kesilapan boleh tersebar kepada orang lain.

Itulah sebabnya pengguna perlu bertanggungjawab terhadap maklumat yang mereka pilih untuk dipercayai dan disebarkan.

Adakah AI yang mempunyai Internet sentiasa betul?

Tidak.

Sesetengah sistem AI boleh menggunakan carian Internet untuk mendapatkan maklumat tambahan.

Keupayaan tersebut boleh meningkatkan ketepatan, terutamanya bagi perkara yang memerlukan maklumat terkini.

Namun, carian Internet tidak menjamin bahawa semua jawapan akan menjadi betul.

AI masih boleh tersalah memahami kandungan sesuatu laman web, mencampurkan maklumat daripada beberapa sumber atau membuat kesimpulan yang tidak disokong oleh bahan rujukan.

Malah, pautan yang diberikan juga perlu diperiksa.

Sumber yang kelihatan rasmi belum tentu menyokong dakwaan dalam jawapan.

Oleh itu, mempunyai pautan rujukan tidak sama dengan mempunyai bukti yang sah.

Bagaimana kita boleh menjadi pengguna AI yang bijak?

Bayangkan kamu menerima jawapan AI yang mengatakan bahawa Marikh ialah planet paling hampir dengan Matahari.

Jawapan itu mungkin ditulis dalam bentuk ayat yang lancar.

Namun, apabila kamu merujuk laman rasmi NASA, planet yang paling hampir dengan Matahari sebenarnya ialah Utarid.

Dengan membuat semakan, kamu berjaya mengenal pasti kesilapan tersebut.

Sebelum menggunakan maklumat AI, biasakan diri bertanya:

  • Siapakah sumber asal maklumat ini?
  • Adakah fakta tersebut boleh ditemukan dalam buku teks atau sumber rasmi?
  • Adakah tarikh dan nombor yang dinyatakan tepat?
  • Adakah AI menyatakan perkara yang diketahui, atau sekadar membuat andaian?
  • Bolehkah maklumat penting disokong oleh sumber lain yang boleh dipercayai?

Kementerian Pendidikan Malaysia turut menekankan kemahiran menilai maklumat AI secara kritis dalam Panduan Literasi Kecerdasan Buatan (AI) tahun 2026. Murid digalakkan menjadi Detektif Fakta, iaitu pengguna yang tidak menerima semua jawapan AI tanpa semakan.

Adakah AI masih berguna untuk pembelajaran?

Sudah tentu.

AI boleh membantu menerangkan konsep yang sukar, mencadangkan idea karangan, menyediakan soalan latihan dan memberikan contoh untuk memudahkan pemahaman.

Namun, penggunaannya perlu disertai pemikiran sendiri.

Jika kamu meminta AI menerangkan sesuatu topik Sains, baca penerangannya dan bandingkan dengan buku teks.

Jika kamu meminta AI menyediakan rangka karangan, gunakan rangka tersebut untuk menghasilkan penulisan sendiri.

Jika AI memberikan fakta yang penting, periksa sumber asal sebelum menggunakannya.

Belajar menggunakan AI bukan sekadar mengetahui cara menaip soalan.

Ia juga bermaksud mengetahui bila sesuatu jawapan perlu diperiksa dan bila kita perlu mendapatkan bantuan guru atau sumber lain.

Pengetahuan yang perlu disertai kebijaksanaan

Kecerdasan buatan ialah teknologi yang mempunyai banyak kegunaan.

Ia boleh menjimatkan masa dan membantu kita meneroka pelbagai bidang ilmu.

Namun, AI tetap mempunyai batasan.

Jawapan yang panjang tidak semestinya tepat. Bahasa yang yakin tidak semestinya membuktikan kebenaran. Rujukan yang kelihatan lengkap pula perlu diperiksa sebelum dipercayai.

Pengguna yang bijak bukanlah orang yang menolak semua teknologi AI.

Sebaliknya, pengguna yang bijak tahu menggunakan teknologi sebagai alat bantuan sambil mengekalkan sikap ingin tahu, jujur dan berfikiran kritis.

AI boleh membantu kita mencari jawapan, tetapi kita masih bertanggungjawab memastikan jawapan itu benar.

Nilai pembelajaran dan istilah penting

Berfikiran kritis, bertanggungjawab, jujur dalam pembelajaran, teliti dan mengamalkan integriti akademik.

Istilah penting: Kecerdasan buatan (AI), model bahasa, halusinasi AI, data latihan, pengesahan fakta dan literasi digital.

Misi Detektif Fakta: Bolehkah Kita Mempercayai Semua Jawapan AI?

Objektif: Melatih murid mengenal pasti maklumat salah dan mengesahkan sesuatu dakwaan menggunakan sumber berautoriti.

Latihan ini menggunakan jawapan AI simulasi yang sengaja mengandungi kesilapan. Murid tidak perlu menggunakan akaun chatbot sebenar.

Contoh jawapan AI simulasi β€” mengandungi kesilapan:

β€œUtarid ialah planet yang paling dekat dengan Matahari. Bulan menghasilkan cahayanya sendiri. Bumi pula merupakan planet ketiga dari Matahari.”

Tandakan Betul atau Salah bagi setiap pernyataan pada kertas atau catatan sendiri, kemudian semak dengan sumber NASA di bawah.

  1. Utarid ialah planet paling dekat dengan Matahari.
  2. Bulan menghasilkan cahayanya sendiri.
  3. Bumi ialah planet ketiga dari Matahari.

Murid boleh membandingkan jawapan dengan sumber NASA:

Refleksi pengayaan: Mengapakah jawapan yang mengandungi dua fakta benar masih perlu diperiksa secara keseluruhan?

Keselamatan digital: Jangan masukkan nama penuh, nombor pengenalan, kata laluan, gambar peribadi atau maklumat sulit rakan ke dalam alat AI. Penggunaan alat AI sebenar bagi murid hendaklah mengikut peraturan sekolah, syarat umur platform dan bimbingan guru.

Infografik: Mengapa AI boleh tersilap?

Infografik punca halusinasi model bahasa AI dan langkah menyemak sumber, fakta serta melindungi maklumat peribadi.
Corak bahasa membantu AI menghasilkan teks. Fakta penting masih perlu disemak dengan sumber yang boleh dipercayai. Ilustrasi janaan AI untuk Nilam Online / Edura Creative.

Uji Kefahaman

Cuba jawab tanpa melihat semula terlebih dahulu.

Aktifkan JavaScript untuk menjawab kuiz interaktif.

Fikir & Jawab

Bina Rumusan Anda

Cuba tulis 2–3 ayat menggunakan perkataan sendiri.

  • Apakah maksud halusinasi AI dan mengapa ia boleh berlaku?
  • Mengapakah jawapan yang yakin atau mempunyai pautan tetap perlu diperiksa?
  • Bagaimanakah kamu boleh menggunakan AI secara bertanggungjawab?

Mengapakah jawapan yang mengandungi dua fakta benar masih perlu diperiksa secara keseluruhan?

Catatan ini tidak dihantar atau disimpan oleh Nilam Online. Salin catatan sendiri sebelum meninggalkan halaman jika mahu menyimpannya.

Nilai yang boleh dipelajari

AmanahBertanggungjawabJujur

Mengapa anda memilih nilai tersebut?

Maklumat Bacaan

Tajuk
Mengapa AI Kadangkala Menghasilkan Fakta yang Salah?
Pengarang
Danish A.
Penerbit
Edura Creative
Tahun
2026
Bahasa
Bahasa Melayu
Jenis
Artikel Web
URL
https://nilamonline.com/bacaan/mengapa-ai-kadangkala-menghasilkan-fakta-yang-salah/

Salin secara manual
Buka Portal AINS β†—

Anda akan dibawa ke portal rasmi AINS dalam tab baharu. Nilam Online bukan portal rasmi AINS atau KPM.

Sumber bacaan

Bacaan Seterusnya

Lihat lebih banyak bacaan Menengah Rendah β†’

Sudah selesai membaca? Pilih satu lagi bahan.

Cari Bacaan Lain