AI FOUNDATIONS • LESSON 10

Hallucination, Bias និង Uncertainty

20 កក្កដា 2026

AI អាចឆ្លើយយ៉ាងរលូន និងមានទំនុកចិត្ត ទោះព័ត៌មានខុស ឬខ្វះភស្តុតាងក៏ដោយ។ មេរៀននេះជួយអ្នកស្គាល់ Hallucination, Bias និង Uncertainty ហើយបង្កើតទម្លាប់ផ្ទៀងផ្ទាត់មុនជឿ ឬចែករំលែក។

រយៈពេលប្រហែល ១៦ នាទី

AI Trust Inspector • Level 10ពីចម្លើយជឿជាក់ទៅភស្តុតាង និងការផ្ទៀងផ្ទាត់

0 XP

ចាប់ផ្តើម

សេចក្តីផ្តើម
Model ភាសាបង្កើត Token ដែលសមស្របតាម Pattern—not ពិនិត្យការពិតដោយស្វ័យប្រវត្តិគ្រប់ពេល។ ដូច្នេះចម្លើយដែលអានរលូនអាចមានឈ្មោះ កាលបរិច្ឆេទ លេខ Quote ឬប្រភពដែលខុស។

គោលបំណងមេរៀននេះ
បន្ទាប់ពីរៀនចប់ អ្នកអាចបែងចែក Hallucination, Bias និង Uncertainty ស្គាល់សញ្ញាព្រមាន និងប្រើ Workflow ផ្ទៀងផ្ទាត់ដែលសមស្របតាមកម្រិតហានិភ័យ។

១. Hallucination គឺជាចម្លើយដែលបង្កើតដោយគ្មានមូលដ្ឋានត្រឹមត្រូវ

AI Hallucination កើតឡើងពេល Model បង្កើតព័ត៌មានដែលមើលទៅសមហេតុផល ប៉ុន្តែខុស មិនមានក្នុង Context ឬមិនអាចគាំទ្រដោយប្រភពដែលបានអះអាង។ វាអាចកើតមានទាំងអត្ថបទ រូបភាព សំឡេង និងកូដ។

Grounded answerចម្លើយត្រូវគ្នានឹង Context ឬប្រភពដើម ហើយអាចតាមដានភស្តុតាងបាន។

Hallucinated answerបង្កើត Facts, Quote, Citation ឬព័ត៌មានលម្អិតដែលមិនមានមូលដ្ឋាន។

Hallucination មិនមែនជាការកុហកដោយចេតនាទេ។ Model មិនមានចេតនា; វាបង្កើត Output តាម Pattern និង Context ដែលមាន។

២. Bias អាចចូលមកពី Data, Design និងការប្រើប្រាស់

Bias គឺជាលំនាំលំអៀងដែលអាចធ្វើឱ្យលទ្ធផលផ្តល់អត្ថប្រយោជន៍ ឬបង្កការខូចខាតមិនស្មើគ្នាចំពោះក្រុម មនុស្ស ឬទស្សនៈណាមួយ។ មិនមែន Bias គ្រប់ប្រភេទសុទ្ធតែបង្កគ្រោះថ្នាក់ទេ ប៉ុន្តែវាត្រូវបានស្គាល់ និងវាយតម្លៃតាមបរិបទ។

Data BiasTraining Data មិនតំណាងឱ្យក្រុម ឬស្ថានភាពទាំងអស់បានស្មើគ្នា។

Design Biasគោលដៅ Label, Metric ឬ Rule របស់ប្រព័ន្ធបង្កើតទិសលំអៀង។

Prompt Biasសំណួរដែលនាំមុខ ឬសន្មត់ចម្លើយ អាចបង្វែរទិស Output។

Use-context Biasប្រើ Model ក្រៅបរិបទដែលវាត្រូវបានសាកល្បង ឬគ្មាន Human review។

AI CLAIM INSPECTOR LAB

សាកវាយតម្លៃចម្លើយ AI តាមហានិភ័យ

READY

ជ្រើសប្រភេទ Claim មួយ ដើម្បីមើលថាត្រូវផ្ទៀងផ្ទាត់បែបណា។

ឈ្មោះ និងកាលបរិច្ឆេទFactual claim

Risk CheckClaim → Evidence → Source → Decision

ពិនិត្យប្រភពដើមOfficial source + date

គោលការណ៍៖ ហានិភ័យកាន់តែខ្ពស់ ត្រូវការភស្តុតាង ប្រភពថ្មី អ្នកជំនាញ និង Human approval កាន់តែខ្លាំង។

៣. Uncertainty គឺភាពមិនប្រាកដ—not ភាពខុសជានិច្ច

Uncertainty មានន័យថាព័ត៌មាន ឬភស្តុតាងមិនគ្រប់គ្រាន់សម្រាប់ចម្លើយប្រាកដ។ វាអាចកើតពីសំណួរមិនច្បាស់ Data ខ្វះ ព្រឹត្តិការណ៍ថ្មី បរិបទច្រើនន័យ ឬរូបភាពព្រិល។

AI អាចមិនបង្ហាញភាពមិនប្រាកដបានល្អ ហើយពាក្យថា «ខ្ញុំប្រាកដ ៩៥%» មិនត្រូវយកជាភាគរយត្រឹមត្រូវទេ លុះត្រាតែប្រព័ន្ធត្រូវបាន Calibrate និងវាយតម្លៃសម្រាប់ Task នោះជាក់លាក់។

Known unknownModel ឬអ្នកប្រើស្គាល់ថាព័ត៌មានខ្វះ ហើយអាចស្នើ Context ឬប្រភពបន្ថែម។

Unknown unknownចម្លើយមើលទៅធម្មតា ប៉ុន្តែកំហុសមិនងាយមើលឃើញដោយគ្មានការផ្ទៀងផ្ទាត់។

៤. សញ្ញាព្រមានដែលគួរឈប់ និងពិនិត្យ

ប្រភពមិនអាចបើកបានចំណងជើង សៀវភៅ DOI ឬ URL មិនមានពិត ឬមិនគាំទ្រ Claim។

លេខច្បាស់ពេកដោយគ្មានវិធីសាស្ត្រភាគរយ ស្ថិតិ ឬការព្យាករណ៍គ្មាន Data, Date និងការគណនា។

ពាក្យដាច់ខាត«តែងតែ», «១០០%», «គ្មានហានិភ័យ» ឬចម្លើយដែលមិនទទួលស្គាល់ព្រំដែន។

ចម្លើយប្តូរពេលសួរឡើងវិញFacts សំខាន់ៗផ្ទុយគ្នារវាង Prompt ស្រដៀងគ្នា ឬរវាងផ្នែកក្នុងចម្លើយ។

៥. Workflow ផ្ទៀងផ្ទាត់ដែលអាចប្រើបាន

SIFTStop → Investigate the source → Find better coverage → Trace claims to original context។

កុំធ្វើកុំស្នើ AI ដដែលឱ្យបញ្ជាក់ខ្លួនឯង ហើយចាត់ទុកការឆ្លើយម្តងទៀតថាជាភស្តុតាងឯករាជ្យ។

បំបែកចម្លើយជា Claim តូចៗ។ សម្គាល់ Claim ដែលអាចផ្ទៀងផ្ទាត់ ស្វែងរកប្រភពដើម ពិនិត្យកាលបរិច្ឆេទ និងបរិបទ ហើយរកប្រភពឯករាជ្យទីពីរសម្រាប់ចំណុចសំខាន់។

៦. អនុវត្តបំបែក Claim និងតម្រូវភស្តុតាង

យកចម្លើយ AI មួយដែលមាន Facts ហើយប្រើ Prompt ខាងក្រោម ដើម្បីធ្វើ Audit។ បន្ទាប់មកអ្នកត្រូវបើក និងអានប្រភពដើមដោយខ្លួនឯង—not ជឿលើតារាង Audit របស់ AI តែមួយ។

សាកអនុវត្ត • CLAIM AUDIT PROMPT

សូម Audit ចម្លើយខាងក្រោមដោយមិនសន្មត់ថាវាត្រឹមត្រូវ។ (1) បំបែកជា Claim ដែលអាចផ្ទៀងផ្ទាត់ (2) ចាត់ថ្នាក់ Fact, Opinion, Prediction ឬ Uncertain (3) បញ្ជាក់ភស្តុតាងដែលត្រូវការ និងប្រភពដើមដែលគួរស្វែងរក (4) សម្គាល់ Citation, Quote, លេខ និងកាលបរិច្ឆេទដែលមានហានិភ័យ Hallucination (5) ស្វែងរកភាសាដែលអាចបង្ហាញ Bias និង (6) បង្កើត Checklist សម្រាប់ខ្ញុំផ្ទៀងផ្ទាត់ដោយខ្លួនឯង។ បើមិនអាចផ្ទៀងផ្ទាត់ សូមសរសេរ «មិនទាន់មានភស្តុតាងគ្រប់គ្រាន់»។ [បិទភ្ជាប់ចម្លើយ AI]

៧. ពិនិត្យការយល់ដឹង

QUIZ ខ្លី

បើ AI ផ្តល់ Citation មួយ តើអ្នកគួរធ្វើអ្វីមុនយកទៅប្រើ?

ចម្លើយត្រឹមត្រូវ៖ គ។ Citation ដែលមើលទៅពិតអាចត្រូវបានបង្កើត ឬប្រើខុសបរិបទ។ ប្រភពដើមត្រូវបានបើក អាន និងផ្ទៀងផ្ទាត់ដោយអ្នក។

៨. ចំណុចសំខាន់ដែលត្រូវចងចាំ

Hallucination គឺ Output ដែលមើលទៅសមហេតុផល ប៉ុន្តែខុស ឬគ្មានមូលដ្ឋានក្នុង Context/ប្រភព។
Bias អាចមកពី Data, Design, Prompt និងបរិបទប្រើប្រាស់។
Uncertainty គឺព័ត៌មានមិនគ្រប់គ្រាន់—not កំហុសជានិច្ច ហើយ AI អាចបង្ហាញវាមិនបានល្អ។
ផ្ទៀងផ្ទាត់ Claim ជាមួយប្រភពដើម និងបង្កើនកម្រិត Review តាមហានិភ័យនៃសេចក្តីសម្រេច។

សម្រាប់អ្នកចាប់ផ្តើម សូមចងចាំថា «សរសេររលូន» មិនស្មើនឹង «ត្រឹមត្រូវ»។ ចាប់ផ្តើមផ្ទៀងផ្ទាត់ឈ្មោះ លេខ កាលបរិច្ឆេទ Quote និងប្រភពជានិច្ច។

ប្រើ AI ជាជំនួយការស្វែងរក Claim និងរៀប Checklist—not ជាប្រភពចុងក្រោយសម្រាប់ការសម្រេចចិត្តសំខាន់។

AI TRUST INSPECTOR BADGE