تېلېفون جىرىڭلايدۇ. يېقىن ئادىمىڭىزنىڭ ئاۋازى: «بېشىمغا ئىش چۈشتى، تېز پۇل ئەۋەت، ھېچكىمگە دېمە». ئاۋاز ئۇنىڭ ئاۋازىغا تامامەن ئوخشايدۇ — لېكىن تېلېفوندىكى ئادەم ئۇ ئەمەس. بۇ AI بىلەن كۆچۈرۈلگەن ئاۋاز. رەسىم ۋە ۋىدېيونىمۇ مۇشۇنداق ياساشقا بولىدۇ. بۇنى ئىنگلىزچىدە deepfake دەيدۇ.
Deepfake — ساختا رەسىم، ۋىدېيو ۋە ئاۋازنى قانداق تونۇيمىز؟
بۇ بەت deepfake نىڭ نېمە ئىكەنلىكىنى، ئۇنىڭ ئالدامچىلىقتا قانداق ئىشلىتىلىدىغانلىقىنى، نېمىشقا كۆز بىلەن تونۇش قىيىنلىقىنى، ۋە ئۆزىڭىز ھەم ئائىلىڭىزنى قوغداشنىڭ ئەمەلىي يوللىرىنى ئاددىي ئۇيغۇرچە چۈشەندۈرىدۇ. ھەر بىر ئاساسىي پىكىر FTC، NIST، C2PA ۋە Google DeepMind نىڭ ئاشكارا ماتېرىياللىرىغا تايىنىدۇ.
Deepfake نېمە؟
Deepfake — سۈنئىي ئىدراك بىلەن ياسالغان ياكى ئۆزگەرتىلگەن، ھەقىقىيگە ناھايىتى ئوخشايدىغان رەسىم، ۋىدېيو ياكى ئاۋاز. ئۇ بىر ئادەمنى ئەسلا دېمىگەن گەپنى دەۋاتقاندەك، ياكى ئەسلا قىلمىغان ئىشنى قىلىۋاتقاندەك كۆرسىتەلەيدۇ.
Content Credentials تۈرى مۇنداق ئەسكەرتىدۇ: ھازىر دېگۈدەك ھەر قانداق ئادەم ئاسان قوراللار بىلەن، بىر قانچە چېكىش ئارقىلىقلا ھەقىقىيگە ئوخشايدىغان رەسىم، ۋىدېيو ۋە ئاۋاز ھۆججىتى ياسىيالايدۇ. NIST يەنە بىر نۇقتىنى تەكىتلەيدۇ: مەزمۇن پەقەت قىسمەنلا سۈنئىي بولۇشى مۇمكىن — مەسىلەن ھەقىقىي رەسىمدىن بىر نەرسە ئۆچۈرۈلۈپ، ئورنى AI بىلەن تولدۇرۇلغان بولىدۇ.
رەسىم: يوق ۋەقە، ساختا «گۇۋاھ» سۈرەت، ئۆزگەرتىلگەن كونا رەسىم.
ۋىدېيو: باشقىلارنىڭ چىرايى ۋە ھەرىكىتىنى ياساپ، ھەتتا جانلىق ۋىدېيو چاقىرىقتا ئىشلىتىش.
ئاۋاز: قىسقا ئاۋاز پارچىسىدىن بىر ئادەمنىڭ ئاۋازىنى كۆچۈرۈپ، تېلېفون ياكى ئاۋازلىق ئۇچۇر ئەۋەتىش.
ئەمەلىي مىساللار
ئائىلە جىددىي ئەھۋالى ئالدامچىلىقى: ئامېرىكا FTC نىڭ 2023-يىلدىكى ئاگاھلاندۇرۇشىچە، ئالدامچىغا يېقىن ئادىمىڭىزنىڭ قىسقا بىر ئاۋاز پارچىسى — مەسىلەن تورغا قويۇلغان مەزمۇندىن ئېلىنغان — ۋە ئاۋاز كۆچۈرۈش پروگراممىسى يېتەرلىك. ئۇ تېلېفون قىلغاندا، ئاۋازى خۇددى ئائىلە ئەزايىڭىزدەك ئاڭلىنىدۇ.
شىركەت ئالدامچىلىقى: 2024-يىلى ئەنگلىيەنىڭ Arup قۇرۇلۇش شىركىتى ئۆزىنىڭ deepfake ئالدامچىلىقىغا ئۇچرىغانلىقىنى ئېتىراپ قىلدى. Hong Kong ساقچىلىرىنىڭ ئېيتىشىچە، بىر خىزمەتچى «شىركەتنىڭ يۇقىرى دەرىجىلىك ئەمەلدارلىرى» قاتناشقان ۋىدېيو يىغىنغا قاتناشقان؛ قاتناشقۇچىلار «ھەقىقىي ئادەملەرگە ئوخشايتتى». ئۇ 15 قېتىمدا جەمئىي HK$200 مىليون (تەخمىنەن £20 مىليون) پۇلنى بەش بانكا ھېساباتىغا يۆتكەپ بەرگەن. Arup ساختا ئاۋاز ۋە سۈرەتلەرنىڭ ئىشلىتىلگەنلىكىنى جەزملەشتۈردى.
ئالدامچىلىقنىڭ قىزىل بەلگىلىرى
FTC نىڭ تەھلىلىچە، ساختا جىددىي ئەھۋال ئالدامچىلىقىدا تېخنىكا ئۆزگەرسىمۇ، ئۇسۇل ئوخشاش قالىدۇ. ئاۋاز ياكى چىراي قانچە ئىشەنچلىك بولسىمۇ، تۆۋەندىكى بەلگىلەرگە دىققەت قىلىڭ:
جىددىيلىك: «ھازىرلا»، «پەقەت سەنلا ياردەم قىلالايسەن» دېيىش.
مەخپىيلىك: «ھېچكىمگە دېمە» — چۈنكى ئۇلار سىزنىڭ باشقىلار بىلەن تەكشۈرۈشىڭىزنى خالىمايدۇ.
ھېسسىيات بېسىمى: قورقۇتۇش ياكى ئىچ ئاغرىتىش ئارقىلىق ئويلىماي ھەرىكەت قىلدۇرۇش.
قايتۇرۇش قىيىن پۇل يولى: پۇل يۆتكەش (wire)، cryptocurrency، gift card نومۇرى ياكى پۇل تۆلەش ئەپى.
«ھوقۇقلۇق ئادەم» نىقابى: ساختا ئادۋوكات، ساقچى ياكى دوختۇر بولۇپ كىرىش.
كۆز بىلەن تونۇش يېتەرلىكمۇ؟
ياق. NIST نىڭ 2024-يىللىق دوكلاتىدا تىلغا ئېلىنغان بىر تەتقىقاتتا، كىشىلەرنىڭ ئاۋاز، رەسىم ۋە ۋىدېيودىكى سۈنئىي مەزمۇننى پەرقلەندۈرۈشى «تاسادىپىي پەرەزگە يېقىن» چىققان. ئاپتوماتىك بايقاش قوراللىرىمۇ مۇكەممەل ئەمەس: NIST بۇنى «مۈشۈك-چاشقان ئويۇنى» دەپ تەسۋىرلەيدۇ — يېڭى بايقىغۇچ چىقسا، ھاسىل قىلغۇچ مودېللار ياخشىلىنىدۇ؛ نۇرغۇن بايقىغۇچ پەقەت مەلۇم مودېللاردىلا ياخشى ئىشلەيدۇ.
شۇڭا «بارماقلىرى ئالتە، كۆزى غەلىتە» دېگەندەك كونا ئالامەتلەرگە تايانماڭ. ئۇلار بەزىدە كۆرۈنىدۇ، لېكىن ئۇلارنىڭ يوقلۇقى مەزمۇننىڭ ھەقىقىيلىكىنى ئىسپاتلىمايدۇ.
تېخنىكا قانداق ياردەم بېرىدۇ؟
Content Credentials (C2PA): Coalition for Content Provenance and Authenticity تەرەققىي قىلدۇرغان ئوچۇق ئۆلچەم. ئۇ رەسىم ياكى ۋىدېيوغا «ئوزۇقلۇق تاختىسى» غا ئوخشاش ئۇچۇر قوشىدۇ: كىم، قايسى قورال بىلەن ياسىغان، قانداق تەھرىرلەنگەن. بۇ ئۆلچەمنى Microsoft، Adobe، Google، OpenAI، Meta ۋە Amazon قاتارلىق يۈزلىگەن شىركەت قوللايدۇ.
SynthID: Google DeepMind نىڭ كۆزگە كۆرۈنمەيدىغان سۇ بەلگىسى (watermark). ئۇ Google نىڭ AI ياسىغان رەسىم، ئاۋاز، تېكىست ۋە ۋىدېيوسىغا ياسالغان ھامان قوشۇلىدۇ ۋە كېسىش، سۈزگۈچ قوشۇش ياكى قىسىش (compression) قا چىدايدىغان قىلىپ لايىھەلەنگەن. ھۆججەتنى Gemini غا يۈكلەپ «بۇنى Google AI ياسىغانمۇ؟» دەپ سورىسىڭىز، ئۇ SynthID بەلگىسىنى تەكشۈرىدۇ؛ SynthID Detector تور بېتىمۇ بار.
لېكىن چەكلىمىسى بار. NIST نىڭ ئېيتىشىچە، ھۆججەت ئىچىدىكى metadata ئىجتىمائىي تاراتقۇدا ھەمبەھىرلەنگەندە دائىم ئۆچۈرۈلۈپ كېتىدۇ؛ سۇ بەلگىسىنىمۇ بەزىدە ئۆچۈرگىلى بولىدۇ؛ يامان نىيەتلىك ئادەملەر بىخەتەرلىك تەدبىرى يوق ئوچۇق مودېللارنى ئىشلىتەلەيدۇ. شۇڭا قائىدە ئاددىي: بەلگە تېپىلسا — پايدىلىق ئىسپات؛ بەلگە تېپىلمىسا — بۇ ھەقىقىي دېگەنلىك ئەمەس.
ئۆزىڭىزنى قانداق قوغدايسىز؟
ئەڭ كۈچلۈك قورال تېخنىكا ئەمەس، تەكشۈرۈش ئادىتى. FTC نىڭ تەۋسىيەسى: «ئاۋازغا ئىشەنمەڭ — ھېكايىنى تەكشۈرۈڭ».
ئالدىرىماڭ: تېلېفوننى قويۇپ، «ھازىرلا قايتا تېلېفون قىلىمەن» دەڭ.
ئۆزىڭىز بىلىدىغان نومۇرغا قايتا تېلېفون قىلىڭ — كەلگەن نومۇرغا ئەمەس.
پەقەت ھەقىقىي ئادەملا بىلىدىغان بىر سوئال سوراڭ.
«مەخپىي تۇت» دېيىلگەن بولسىمۇ، باشقا ئائىلە ئەزاسى ياكى دوستىڭىزغا خەۋەر قىلىڭ.
gift card، cryptocurrency ياكى پۇل يۆتكەش تەلەپ قىلىنسا، توختاڭ — بۇ كۈچلۈك ئالدامچىلىق بەلگىسى.
ئىش ئورنىدا: پۇل يۆتكەش بۇيرۇقىنى ۋىدېيو چاقىرىقتىلا ئەمەس، ئايرىم، ئىشەنچلىك يول ئارقىلىق جەزملەشتۈرۈڭ.
تاراتقۇدىكى غەيرىي رەسىم ياكى ۋىدېيونى ھەمبەھىرلەشتىن بۇرۇن ئەسلى مەنبەسىنى ئىزدەڭ.
ئۇيغۇر ئائىلىلىرى ئۈچۈن
نۇرغۇن ئۇيغۇر ئائىلىلىرى دۇنيانىڭ ھەر يېرىگە تارقالغان بولۇپ، ئاۋازلىق ئۇچۇر ۋە ۋىدېيو چاقىرىق ئارقىلىق ئالاقىلىشىدۇ. بۇ ئادەت ئاۋاز كۆچۈرۈش ئالدامچىلىقى ئۈچۈن قولايلىق نىشان بولۇشى مۇمكىن. FTC نىڭ ئېيتىشىچە، ئالدامچى ئاۋاز پارچىسىنى تورغا قويۇلغان مەزمۇندىن ئالالايدۇ. ئائىلىڭىزدىكى ياشانغانلار بىلەن «جىددىي پۇل سورىغان تېلېفون كەلسە، ئاۋۋال باشقا يول بىلەن تەكشۈرىمىز» دەپ ئالدىن كېلىشىۋېلىڭ.
قىسقا تەكشۈرۈش تىزىملىكى
1. توختا: جىددىيلىك ۋە مەخپىيلىك — قىزىل بەلگە.
2. ئۆزۈڭ بىلىدىغان نومۇرغا قايتا تېلېفون قىل.
3. پەقەت ھەقىقىي ئادەم بىلىدىغان سوئالنى سورا.
4. رەسىم/ۋىدېيونىڭ ئەسلى مەنبەسىنى ئىزدە.
5. Content Credentials ياكى SynthID بەلگىسىنى تەكشۈر.
6. بەلگە يوق بولسا ھەقىقىي دەپ قارىما.بۇ تىزىملىكنىڭ ئالدىنقى ئۈچ قەدىمى FTC نىڭ تەۋسىيەسىدىن، كېيىنكى قەدەملەر C2PA، SynthID ۋە NIST نىڭ چۈشەندۈرۈشىدىن ئېلىندى.
ئېسىڭىزدە بولسۇن
Deepfake — AI بىلەن ياسالغان، ھەقىقىيگە ئوخشايدىغان رەسىم، ۋىدېيو ياكى ئاۋاز. ئۇنى كۆز ياكى قۇلاق بىلەن ئىشەنچلىك تونۇش قىيىن، بايقاش قوراللىرىمۇ مۇكەممەل ئەمەس. شۇڭا چىرايغا ياكى ئاۋازغا ئەمەس، مەنبەگە ئىشىنىڭ: ئالدىرىماڭ، ئۆزىڭىز قايتا ئالاقىلىشىڭ، پۇل سورالسا ئىككى قېتىم تەكشۈرۈڭ.
مەنبە: FTC — Scammers use AI to enhance their family emergency schemesمەنبە: FTC — Scammers use fake emergencies to steal your moneyمەنبە: FTC — Preventing the harms of AI-enabled voice cloningمەنبە: NIST AI 100-4 — Reducing Risks Posed by Synthetic Contentمەنبە: C2PA — Content Credentialsمەنبە: Google DeepMind — SynthIDمەنبە: The Guardian — Arup falls victim to £20m deepfake scamAI رەسىم ۋە ۋىدېيو ھاسىل قىلىشئاۋاز AI — ASR ۋە TTSئويدۇرما جاۋاب — نېمىشقا AI يالغان دەيدۇ؟AI بىخەتەرلىك ۋە Alignment