مودېل بىر سوئالغا ئىشەنچ بىلەن جاۋاب بەردى — لېكىن جاۋاب خاتا. سان، چېسلا، ئىسىم ياكى نەقىل «توغرا ئاڭلىنىدۇ»، ئەمما ھەقىقەتكە ماس كەلمەيدۇ. بۇنى ئىنگلىزچىدە hallucination، بىزنىڭ بەتلەردە ئويدۇرما جاۋاب دەيمىز.
ئويدۇرما جاۋاب — نېمىشقا AI يالغان دەيدۇ؟
بۇ بەت ئويدۇرما جاۋابنىڭ نېمە ئىكەنلىكىنى، نېمىشقا پەيدا بولىدىغانلىقىنى، نېمىشقا تېخىمۇ ياخشى مودېللاردا مۇمۇ يوقاپ كەتمەيدىغانلىقىنى، ۋە ئۇنى ئازايتىشنىڭ ئەمەلىي ئۇسۇللىرىنى ئاددىي ئۇيغۇرچە چۈشەندۈرىدۇ. ھەر بىر ئاساسىي ئىدىيە OpenAI ۋە Anthropic نىڭ ئاشكارا يازمىلىرىغا تايىنىدۇ.
ئويدۇرما جاۋاب نېمە؟
OpenAI نىڭ 2025-يىللىق ماقالىسىدە مۇنداق ئېيتىلغان: hallucination — مودېل ھاسىل قىلغان، ئىشەنچلىك ئاڭلىنىدىغان، لېكىن راست بولمىغان بايان. ئۇ ئادەمنىڭ «كۆرۈپ قالغانلىقى» ئەمەس؛ پەقەت سىلىق تېكىست ئىچىدىكى خاتا پاكىت.
مىسال: OpenAI تەتقىقاتچىسى Adam Tauman Kalai نىڭ تۇغۇلغان كۈنىنى سورىغاندا، بىر كەڭ ئىشلىتىلىدىغان مودېل ئۈچ قېتىم ئۈچ خىل چېسلا بەرگەن — ھەممىسى خاتا. سوئالدا «بىلسەڭلا جاۋاب بەر» دېيىلگەن بولسىمۇ، مودېل يەنىلا پەرەز قىلغان.
نېمىشقا پەيدا بولىدۇ؟
تىل مودېلى ئاۋۋال pretraining دا كېيىنكى سۆزنى (next token) پەرەز قىلىشقا ئۆگىنىدۇ. بۇ جەرياندا ھەر بىر جۈملىگە «راست / يالغان» بەلگىسى قويۇلمايدۇ — پەقەت سىلىق تىل مىساللىرى بېرىلىدۇ. شۇڭا مودېل «ھەقىقەتنى ئىزدەيدۇ» ئەمەس، «كېيىنكى بەلگە قانداق بولۇشى مۇمكىن» دەپ داۋاملاشتۇرىدۇ.
ئىملا ۋە تىرناققا ئوخشاش قائىدىلىك نەرسىلەر كۆلەم چوڭايتقاندا تۈزىلىدۇ. لېكىن سەل ئۇچرايدىغان، خالىغانچە پاكىتلار — مەسىلەن بىر كىشىنىڭ تۇغۇلغان كۈنى — قېلىپتىنلا پەرەز قىلىشقا بولمايدۇ. OpenAI نىڭ تەھلىلىچە، بۇ خىل ئۇچۇرلاردا خاتالىق ئىستاتىستىكىلىق جەھەتتىن تەبىئىي پەيدا بولىدۇ.
ئۇزۇن قۇيرۇق بىلىم: تەربىيە تېكىستىدە ئاز كۆرۈلگەن تېمىدا مودېل ئاجىز بولىدۇ.
ۋاقىت چېكى: مودېلنىڭ ئىچكى بىلىمى مەلۇم چېسلاغىچە توڭلاپ قالىدۇ؛ يېڭى ۋەقەلەردە پەرەز قىلىشى مۇمكىن.
ئۇيغۇرچە ۋە باشقا تۆۋەن مەنبەلىك تىللاردا مىسال ئاز بولغاچقا، ئىسىم، يىل ۋە نەقىل تېخىمۇ ئاسان ئويدۇرۇلىدۇ.
نېمىشقا يوقاپ كەتمەيدۇ؟
OpenAI نىڭ ئاساسىي دەۋاسى شۇ: نۇرغۇن باھالاش (eval) پەقەت توغرىلىق نىسبىتىنى ئۆلچەيدۇ. بىلمىگەندە «بىلمەيمەن» دېسە نۆل نومۇر؛ پەرەز قىلسا بەختكە قاراپ توغرا چىقىشى مۇمكىن. شۇڭا مودېللار «ياخشى ئىمتاھان بەرگۈچى» بولۇشقا ئىلھاملاندۇرۇلىدۇ — گۇماننى ئېيتىشتىن كۆرى پەرەز قىلىش نومۇرنى ئاشۇرىدۇ.
SimpleQA مىسالىدا (GPT-5 System Card دىن ئېلىنغان سېلىشتۇرما): gpt-5-thinking-mini نىڭ توغرىلىقى تەخمىنەن 22%، خاتالىقى 26%، جاۋاب بەرمەسلىكى 52%. ئىلگىرىكى o4-mini نىڭ توغرىلىقى تەخمىنەن 24% — بىراق خاتالىقى 75%، جاۋاب بەرمەسلىكى پەقەت 1%. توغرىلىق يېقىن، لېكىن ئىككىنچىسىدە ئويدۇرما جاۋاب زور دەرىجىدە كۆپ.
شۇڭا OpenAI «پەقەت يېڭى hallucination سىنىقى قوشۇش يېتەرلىك ئەمەس؛ ئاساسىي باھالاشلار گۇماننى جازالىماسلىقى كېرەك» دەيدۇ. ياخشى يول — ئىشەنچلىك خاتالىقنى گۇمان ئېيتىشتىن قاتتىقراق جازالاش.
قاچان كۆپ ئۇچرايدۇ؟
ئېنىق سان، چېسلا، ئىسىم، ئادرېس ۋە نەقىل سورىغاندا.
تار، يېڭى ياكى توردا ئاز ئۇچرايدىغان تېمىلاردا.
ئۇزۇن جاۋاب ئىچىدە كۆپ پاكىت تىزىلغاندا — بىر-ئىككىسى خاتا بولۇشى مۇمكىن.
مودېلنىڭ ئىچكى بىلىمىگە تايىنىپ، سىز ھۆججەت بەرمىگەندە.
قانداق ئازايتىش كېرەك؟
Anthropic نىڭ رەسمىي قوللانمىسىدا ئەڭ ئاددىي ۋە كۈچلۈك ئۇسۇل: مودېلغا «بىلمەيمەن» دېيىشكە رۇخسەت بېرىش. بۇنى ئېنىق يېزىڭ. ئۇزۇن ھۆججەتتە ئاۋۋال سۆزمۇسۆز نەقىل ئالدۇرۇڭ، ئاندىن شۇ نەقىللەرگىلا تايىنىپ تەھلىل قىلدۇرۇڭ. ھەر بىر ئىددىئانى قوللايدىغان نەقىل تېپالمىسا، ئۇ ئىددىئانى ئۆچۈرۈڭ.
«ئىشەنچسىز بولسا بىلمەيمەن دې» دەپ سىستېما ياكى تەلەپتە يېزىڭ.
مۇھىم خىزمەتتە مەنبە ھۆججەت بېرىڭ (RAG ياكى قىستۇرما مەزمۇن)؛ پەقەت ئىچكى بىلىمگە تايانماڭ.
ئوخشاش سوئالنى بىر قانچە قېتىم سورىڭ — جاۋابلار زور دەرىجىدە پەرقلىق بولسا، ئويدۇرما خەۋپى يۇقىرى.
سان، چېسلا ۋە ئۇلانمىنى ئۆزىڭىز تەكشۈرۈڭ. Anthropicمۇ: بۇ ئۇسۇللار ئازايتىدۇ، لېكىن تامامەن يوقاتمايدۇ، دەيدۇ.
قىسقا مىسال تەلەپ
تۆۋەندىكى ھۆججەتكە ئاساسەنلا جاۋاب بەر.
بىلمىسەڭ ياكى ھۆججەتتە يوق بولسا، «بىلمەيمەن» دې — پەرەز قىلما.
ھەر بىر پاكىت ئۈچۈن ھۆججەتتىن قىسقا نەقىل كۆرسەت.
نەقىل تېپالمىسا، شۇ پاكىتنى يازما.بۇ تەلەپ Anthropic تەۋسىيە قىلغان ئۈچ ئىدىيەنى بىرلەشتۈرىدۇ: گۇمانغا رۇخسەت، نەقىل بىلەن ئاساسلاشتۇرۇش، قوللىمايدىغان ئىددىئانى ئۆچۈرۈش.
ئېسىڭىزدە بولسۇن
ئويدۇرما جاۋاب — سىلىق لېكىن خاتا پاكىت. ئۇ next-token ئۆگىنىشتىن كېلىدۇ؛ باھالاش پەرەزنى مۇكاپاتلىسا داۋاملىشىدۇ. ئەڭ ياخشى مودېلدىمۇ يوقايدىغان «سەھۋەن سىر» ئەمەس — گۇمان ئېيتىش ۋە مەنبە تەكشۈرۈش بىلەن باشقۇرۇلىدىغان خەۋپ. مۇھىم قارارلاردا مودېلنىڭ جۈملىسىنىلا ئەمەس، مەنبەسىنىمۇ تەكشۈرۈڭ.
مەنبە: OpenAI — Why language models hallucinateمەنبە: OpenAI — Introducing SimpleQAمەنبە: arXiv — Why Language Models Hallucinate (Kalai et al., 2025)مەنبە: Anthropic — Reduce hallucinationsچوڭ تىل مودېلى قانداق جاۋاب بېرىدۇContext Window — AI نىڭ خىزمەت ئەستە ساقلىشىئويلىنىش مودېللىرى — Chain of ThoughtFine-tuning vs RAGAI بىخەتەرلىك ۋە Alignmentئۇيغۇرچە تەلەپ قانداق يېزىلىدۇ