VERIFICATION FOUNDATIONS • LESSON 3

ស្គាល់ Hallucination របស់ AI

by Sot Dimong

1 សីហា 2026

មេរៀននេះជួយឱ្យអ្នកស្គាល់ពេល AI បង្កើតព័ត៌មានដែលមើលទៅច្បាស់ និងគួរឱ្យជឿ ប៉ុន្តែមិនមានភស្តុតាងពិត ព្រមទាំងរៀន Workflow សម្រាប់រកឃើញ និងដោះស្រាយវា។

រយៈពេលប្រហែល ១៨ នាទី

Hallucination Detector • Level 3 សម្គាល់ Claim សង្ស័យ និងផ្ទៀងផ្ទាត់មុនប្រើ

0 XP

ចាប់ផ្តើម

សេចក្តីផ្តើម
AI អាចសរសេរចម្លើយរលូន មានទំនុកចិត្ត និងដាក់លម្អិតច្រើន ប៉ុន្តែលម្អិតខ្លះអាចត្រូវបានបង្កើតឡើងដោយគ្មានប្រភពពិត។ បាតុភូតនេះហៅថា AI Hallucination។

គោលបំណងមេរៀននេះ
បន្ទាប់ពីរៀនចប់ អ្នកអាចពន្យល់ Hallucination ស្គាល់ទម្រង់កំហុសនិងសញ្ញាព្រមាន ព្រមទាំងអនុវត្ត Workflow ដើម្បី Verify, Revise ឬ Reject ចម្លើយ AI។

១. AI Hallucination ជាអ្វី?

Hallucination គឺពេល AI បង្កើតសេចក្តីថ្លែង ឈ្មោះ លេខ កាលបរិច្ឆេទ Citation ឬការពន្យល់ដែលមើលទៅសមហេតុផល ប៉ុន្តែខុស មិនអាចផ្ទៀងផ្ទាត់បាន ឬមិនមាននៅក្នុងប្រភពពិត។

វាមិនមានន័យថា AI កំពុងកុហកដោយចេតនាទេ។ Language Model បង្កើតពាក្យបន្ទាប់ដែលទំនងសមនឹងបរិបទ មិនមែនទាញយក «ការពិត» ពីមូលដ្ឋានទិន្នន័យដែលធានាត្រឹមត្រូវគ្រប់ពេលទេ។

រលូនភាសាល្អមិនមែនជាភស្តុតាងថាខ្លឹមសារត្រឹមត្រូវទេ។

ខុសដោយទំនុកចិត្តAI អាចបង្ហាញព័ត៌មានខុសដោយសម្លេងដាច់ខាត។

ប្រភពស្រមើស្រមៃCitation, URL ឬឈ្មោះឯកសារអាចមិនមានពិត។

លាយពិតនិងខុសFact ពិតអាចត្រូវបានភ្ជាប់ជាមួយការសន្និដ្ឋានខុស។

ចំណុចសំខាន់៖ Hallucination អាចកើតមានទោះ Prompt ច្បាស់ក៏ដោយ។ ការសុំឱ្យ AI «ប្រាកដ ១០០%» មិនអាចជំនួសការផ្ទៀងផ្ទាត់ដោយប្រភពបានទេ។

២. ហេតុអ្វី AI អាចបង្កើតព័ត៌មានខុស?

បំពេញចន្លោះព័ត៌មានពេលព័ត៌មានមិនគ្រប់ AI អាចបង្កើតលម្អិតដើម្បីឱ្យចម្លើយមើលទៅពេញលេញ។

Pattern មិនមែនការយល់ដឹងពិតវាបង្កើតតាមលំនាំភាសា ដូច្នេះអ្វីដែល «ស្តាប់ទៅត្រូវ» អាចមិនពិត។

ព័ត៌មានចាស់ ឬខ្វះបរិបទចម្លើយអាចមិនស្របនឹងកាលបរិច្ឆេទ Version ទីតាំង ឬស្ថានភាពបច្ចុប្បន្ន។

សំណួរមិនច្បាស់Prompt ដែលមានន័យច្រើនអាចជំរុញឱ្យ AI សន្មត់លើព័ត៌មានដែលអ្នកមិនបានផ្តល់។

VERIFICATION LAB

Hallucination Detector Lab

READY

ជ្រើសសញ្ញាសង្ស័យមួយ ដើម្បីមើលសំណួរដែលត្រូវសួរ និងសកម្មភាពដែលគួរធ្វើ។ នេះជាគំរូបង្ហាញ មិនមែនជាការហៅ AI ពិតទេ។

លេខជាក់លាក់ គ្មានប្រភព ឬ Unit

Detect Claim + Source + Context

Check data រក Dataset និងគណនាឡើងវិញ

លទ្ធផលគំរូ៖ លេខជាក់លាក់៖ ស្វែងរកប្រភពដើម ពិនិត្យ Unit រយៈពេល Sample និងគណនាឡើងវិញ។ កុំទុកចិត្តលេខដោយសារវាមាន Decimal ច្រើន។

៣. Hallucination ដែលជួបញឹកញាប់ ៤ ទម្រង់

Fabricated Factបង្កើតឈ្មោះ ព្រឹត្តិការណ៍ លេខ ឬកាលបរិច្ឆេទដែលមិនមានពិត។

Fake Citationបង្កើត Link អ្នកនិពន្ធ សៀវភៅ Paper ឬ DOI ដែលរកមិនឃើញ។

False Connectionយក Fact ពិតពីរមកភ្ជាប់ជាសេចក្តីសន្និដ្ឋានដែលមិនមានភស្តុតាងគាំទ្រ។

Outdated Contextប្រើព័ត៌មានចាស់ ឬ Version ខុស ហើយបង្ហាញដូចជាស្ថានភាពបច្ចុប្បន្ន។

៤. សញ្ញាព្រមានដែលគួរឱ្យឈប់ពិនិត្យ

ភាសាដាច់ខាត«ប្រាកដ ១០០%», «តែងតែ», «គ្មានហានិភ័យ» លើប្រធានបទដែលជាធម្មតាមានភាពមិនប្រាកដ។

លេខលម្អិតខ្លាំងលេខជាក់លាក់ ឬភាគរយច្រើនខ្ទង់ ប៉ុន្តែមិនប្រាប់ Dataset, Unit, Sample ឬរយៈពេល។

Citation មើលទៅល្អពេកឈ្មោះប្រភពសមនឹងប្រធានបទ ប៉ុន្តែ Link មិនបើក ឬប្រភពមិនមាន Claim នោះ។

ព័ត៌មានផ្លាស់ប្តូរពេលសួរឡើងវិញឈ្មោះ លេខ ឬហេតុផលប្រែប្រួលខ្លាំង ទោះសំណួរដើមនៅដដែល។

៥. សញ្ញាព្រមានមិនមែនជាភស្តុតាងថាខុស

ការឃើញសញ្ញាព្រមានគ្រាន់តែប្រាប់ឱ្យយើង ឈប់ និងពិនិត្យ។ កុំ Reject ចម្លើយដោយសារវាមានលេខច្រើន ឬ Citation មួយ។ ដូចគ្នានេះ កុំ Accept ដោយសារភាសារលូន និងមានប្រភពភ្ជាប់មកជាមួយ។

សន្និដ្ឋានលឿន«AI និយាយ ដូច្នេះខុស» ឬ «AI មាន Citation ដូច្នេះត្រូវ»—ទាំងពីរមិនមែនជា Verification។

សម្រេចតាមភស្តុតាងដក Claim ចេញ បើកប្រភព ពិនិត្យ Context និង Cross-check ជាមួយប្រភពឯករាជ្យ។

៦. Workflow៖ Pause → Extract → Source → Cross-check → Decide

១) Pause កុំចម្លង ឬសម្រេចចិត្តភ្លាម។ ២) Extract បំបែកចម្លើយជា Claim ដែលអាចពិនិត្យបាន។ ៣) Source សុំ និងបើកប្រភពដើម។ ៤) Cross-check ផ្ទៀងផ្ទាត់ជាមួយប្រភពឯករាជ្យយ៉ាងតិចមួយទៀត។ ៥) Decide កំណត់ជា Verified, Uncertain, Revise ឬ Reject។

សម្រាប់ Claim ដែលមានហានិភ័យខ្ពស់—សុខភាព ច្បាប់ ហិរញ្ញវត្ថុ សុវត្ថិភាព—កុំប្រើចម្លើយ AI ជាចម្លើយចុងក្រោយ។ ត្រូវពិនិត្យប្រភពផ្លូវការ និងអ្នកជំនាញមានសមត្ថកិច្ច។

សាកអនុវត្ត • VERIFICATION PROMPT

ពិនិត្យចម្លើយខាងក្រោមសម្រាប់ AI Hallucination។ ១) បំបែកជា Claim ដែលអាចផ្ទៀងផ្ទាត់បាន ២) សម្គាល់ Claim ដែលមានហានិភ័យ ឬសញ្ញាសង្ស័យ ៣) ស្នើប្រភពដើមដែលត្រូវពិនិត្យ ៤) បញ្ជាក់អ្វីដែលអ្នកមិនអាច Verify ៥) កែសរសេរចម្លើយឡើងវិញដោយដកព័ត៌មានមិនមានភស្តុតាង និងបង្ហាញភាពមិនប្រាកដ។ កុំបង្កើត Citation ឬ URL ថ្មី។

៧. ពិនិត្យការយល់ដឹង

QUIZ ខ្លី

AI ផ្តល់ឈ្មោះ Research Paper, អ្នកនិពន្ធ និងឆ្នាំច្បាស់លាស់។ តើអ្វីជាជំហានត្រឹមត្រូវបន្ទាប់?

ចម្លើយត្រឹមត្រូវ៖ ខ។ Citation លម្អិតមិនធានាថាមានពិតទេ។ ត្រូវរកប្រភព បើកអាន និងពិនិត្យថាវាគាំទ្រ Claim ដែល AI បានលើកឡើង។

៨. ចំណុចសំខាន់ដែលត្រូវចងចាំ

Hallucination គឺព័ត៌មានដែល AI បង្កើតដោយមើលទៅសមហេតុផល ប៉ុន្តែខុស ឬមិនអាចផ្ទៀងផ្ទាត់បាន។
ភាសារលូន ទំនុកចិត្តខ្ពស់ និង Citation លម្អិត មិនមែនជាភស្តុតាងនៃ Accuracy ទេ។
ទម្រង់ទូទៅមាន Fabricated Fact, Fake Citation, False Connection និង Outdated Context។
សញ្ញាព្រមានគឺជាហេតុឱ្យពិនិត្យ មិនមែនជាភស្តុតាងចុងក្រោយថា Claim ខុសទេ។
ប្រើ Pause → Extract → Source → Cross-check → Decide មុនយកចម្លើយទៅប្រើ។

សម្រាប់អ្នកចាប់ផ្តើម សូមចាំក្បួនខ្លី៖ ច្បាស់មិនស្មើត្រឹមត្រូវ។ ពេលឃើញឈ្មោះ លេខ កាលបរិច្ឆេទ ឬ Citation ច្បាស់ខ្លាំង សូមកុំខ្លាចក្នុងការឈប់សួរថា «ប្រភពដើមនៅឯណា?»។

លំហាត់អនុវត្ត៖ យកចម្លើយ AI មួយកថាខណ្ឌ គូសបន្ទាត់ក្រោម Claim ដែលមានលេខ ឈ្មោះ និង Citation រួចស្វែងរកប្រភពដើម។ ដាក់ស្លាក Claim នីមួយៗជា Verified, Uncertain ឬ Unsupported។

HALLUCINATION DETECTOR BADGE