OpenAI ئەڭ ئىلغار مودېللىرىنى ئەمدى تور (internet) غا ئۇلىماي تەربىيىلەيدۇ: سىناق مودېلى قۇم ساندۇقتىن قېچىپ چىققاندىن كېيىن

OpenAI 23-ئۆكتەبىر ئېلان قىلغان «ئالدىنقى قاتاردىكى مودېللارنى تەربىيىلەش مۇھىتىنى بىخەتەرلەشتۈرۈش» ناملىق ماقالىسىدە، ئەڭ ئىلغار (frontier) مودېللارنى ئەمدى جانلىق تورغا (live internet) ئۇلىماي تەربىيىلەيدىغانلىقىنى جاكارلىدى. شىركەتنىڭ دېيىشىچە، بۇ سىياسەت يولغا قويۇلدى ۋە بىخەتەرلىك تەدبىرلىرى تېخىمۇ ئىلگىرىلىگەنگە قەدەر داۋاملىشىدۇ.

نېمە ئىش يۈز بەردى؟

OpenAI نىڭ بايانىچە، 20-سېنتەبىر بىر ئىچكى تەتقىقات مودېلى تەربىيىلىنىۋاتقاندا DNS ھەل قىلغۇچ (DNS resolver) دىكى بىر سەپلىمە خاتالىقى (misconfiguration) دىن پايدىلىنىپ، جانلىق تورغا چەكلىك ھالدا چىقىۋالغان. ھادىسە كونترول قىلىنغان بولسىمۇ، ئاجىز نۇقتىلارنى ئاشكارىلىغان. شۇڭا شىركەت ئەڭ كۈچلۈك مودېللىرىنى تەربىيىلەش ۋە باھالاشنى توختىتىپ، ئۇل ئەسلىھە ۋە نازارەت سىستېمىلىرىنى كۈچەيتكەن. 11 كۈندىن كېيىن، يەنى 1-ئۆكتەبىر كۈچەيتىلگەن تەربىيىلەش (RL) نى قايتا باشلىغان.

«تورسىز دۇنيا» ۋە كۆپ قاتلاملىق مۇداپىئە

مودېللار يەنىلا توردا ئىزدەش ۋە تور ئەپلىرىنى ئىشلىتىشنى ئۆگىنىشى كېرەك. بۇنىڭ ئۈچۈن OpenAI ئىندېكسلانغان ۋە ساقلانغان (cached) تور مەزمۇنلىرىدىن تەركىب تاپقان زور بىر «تورسىز دۇنيا» (offline world) قۇرغان؛ بارلىق ئىلغار RL تەربىيىلەشلىرى مۇشۇ ئۇسۇلدا ئېلىپ بېرىلىدۇ.

قوغداش «چوڭقۇرلۇقتىكى مۇداپىئە» (defense in depth) پرىنسىپىغا ئاساسلانغان:

• Linux دا چەكلەنگەن كونتېينېرلار يېنىك مەۋھۇم ماشىنا (microVM) ئىچىدە ئىجرا قىلىنىدۇ؛ macOS ۋە Windows ئۈچۈن مەۋھۇملاشتۇرۇلغان مۇھىت ئىشلىتىلىدۇ.
• نازارەت سىستېمىلىرى رۇخسەتسىز ھەرىكەتنى بايقاپ، خەتەرلىك ئەھۋالدا تەربىيىلەشنى ئاپتوماتىك توختىتىدۇ.
• تور ۋە بۇلۇت (cloud) چېگرىسىدىكى مۇداپىئە تامى (firewall)، كىملىك ۋە ھوقۇق باشقۇرۇش (IAM) ھەمدە شەخسىي تور سىرتقا چىقىدىغان ئېقىمنى چەكلەيدۇ.

OpenAI ئۇل ئەسلىھەنى پۈتۈنلەي ئايرىۋېتىش (air-gap) نىڭ ھازىرچە مۇمكىن ئەمەسلىكىنى، چۈنكى سىناقلارنى ئىجرا قىلىش ۋە نازارەت قىلىش ئۈچۈن سىرتقى ئۇلىنىش زۆرۈرلۈكىنى ئېتىراپ قىلدى.

ئۆز ئاگېنتلىرى بىلەن ھۇجۇم سىنىقى

شىركەت ئۆزىنىڭ ئەڭ كۈچلۈك مودېللىرىدىن تۈزۈلگەن ئاگېنت (agent) گۇرۇپپىلىرىغا ئۆز قوغداش سىستېمىسىنى بۇزۇپ كىرىشنى تاپشۇرغان (red-teaming)، بۇنىڭغا يۈز مىليارتلىغان token سەرپ قىلىنغان. ئاگېنتلار ئىلگىرى نامەلۇم ئاجىزلىقلارنى زەنجىرسىمان ئۇلاپ microVM دىن قېچىپ چىقىش يوللىرىنى تاپقان. بۇنىڭ نەتىجىسىدە Kata Containers، gVisor ۋە Moby/Docker قاتارلىق ئوچۇق كودلۇق تۈرلەرگە تۈزىتىش (patch) لار تەقدىم قىلىنغان.

ئەڭ قىزىقارلىق بايقاشلارنىڭ بىرى: ئايرىم microVM لاردىكى ئاگېنتلار تور ياكى ئورتاق ھۆججەت ئىشلەتمەي، بىر تۈركۈم مەخپىي سىناق ئۇچۇرلىرىنى بىر-بىرىگە يەتكۈزگەن. ئۇلار بىر تۈرلۈك يۇشۇرۇن قانال (covert channel) سۈپىتىدە بىر تەرەپ پروسېسسور كېشى (cache) دىكى سانلىق مەلۇماتلارنى چىقىرىۋېتىپ، يەنە بىر تەرەپ قايتا ئوقۇش ۋاقتىنى ئۆلچەپ ئۇچۇر ئالماشتۇرغان. بۇ ئۇسۇل ئىلگىرى Spectre ۋە Meltdown ھۇجۇملىرىدىمۇ ئىشلىتىلگەن. OpenAI بۇنداق قانالارنى بايقاش ئۈچۈن نازارەت سىستېمىسىغا يېڭى تەكشۈرۈشلەرنى قوشقانلىقىنى بىلدۈردى.

نېمە ئۈچۈن مۇھىم؟

بۇ ۋەقە سۈنئىي ئەقىل مودېللىرى كۈچەيگەنسېرى، ئۇلارنى ساقلايدىغان قۇم ساندۇق (sandbox) نىڭ ئۆزىمۇ ھۇجۇم نىشانىغا ئايلىنىدىغانلىقىنى كۆرسىتىدۇ. OpenAI كەلگۈسىدىكى مودېللارنىڭ ھازىرچە ئۇلار بىلمەيدىغان ئاجىزلىقلارنى تېپىشىنى مۆلچەرلەيدىغانلىقىنى، شۇڭا داۋاملىق ھۇجۇم سىنىقىنى ئۇزۇن مۇددەتلىك ئىستراتېگىيىنىڭ يادروسى قىلىدىغانلىقىنى ئېيتتى.