ساقلاشنى مودېل مەشىقىدىكى ئاچقۇچلۇق ھالغا ئايلاندۇرماڭ

ئېيتىشلارغا قارىغاندا ، تېخنىكا شىركەتلىرى GPU نى تالىشىۋاتىدۇ ياكى ئۇلارنى سېتىۋېلىش يولىدا تىرىشىۋاتىدۇ. 4-ئايدا ، تېسلانىڭ باش ئىجرائىيە ئەمەلدارى ئېلون ماسك 10،000 GPU سېتىۋالغان ۋە شىركەتنىڭ NVIDIA دىن داۋاملىق كۆپ مىقداردا GPU سېتىۋالىدىغانلىقىنى بايان قىلغان. كارخانا تەرەپتە ، IT خادىملىرىمۇ GPU نىڭ توختىماي ئىشلىتىلىشىگە كاپالەتلىك قىلىپ ، مەبلەغنىڭ پايدىسىنى ئەڭ يۇقىرى چەككە يەتكۈزدى. قانداقلا بولمىسۇن ، بەزى شىركەتلەر GPU سانىنىڭ ئېشىشىغا ئەگىشىپ ، GPU نىڭ بىكار بولۇشىنىڭ تېخىمۇ ئېغىرلىشىدىغانلىقىنى بايقىشى مۇمكىن.

ئەگەر تارىخ بىزگە يۇقىرى ئىقتىدارلىق ھېسابلاش (HPC) توغرىسىدا بىر نەرسە ئۆگەتكەن بولسا ، ئۇ ھېسابلاشقا بەك ئەھمىيەت بېرىش بەدىلىگە ساقلاش ۋە تورنى قۇربان قىلماسلىق كېرەك. ئەگەر ساقلاش سانلىق مەلۇماتنى ھېسابلاش ئورۇنلىرىغا ئۈنۈملۈك يەتكۈزەلمىسە ، دۇنيادىكى ئەڭ كۆپ GPU بولغان تەقدىردىمۇ ، ئەڭ ياخشى ئۈنۈمگە ئېرىشەلمەيسىز.

كىچىك دۇنيا چوڭ سانلىق مەلۇماتلىرىنىڭ ئانالىزچىسى مايك ماتچېتنىڭ سۆزىگە قارىغاندا ، كىچىك تىپلارنى ئىچكى ساقلىغۇچ (RAM) دا ئىجرا قىلغىلى بولىدىكەن ، ھېسابلاشقا تېخىمۇ ئەھمىيەت بېرەلەيدىكەن. قانداقلا بولمىسۇن ، مىليارد دوللارلىق تۈگۈن بولغان ChatGPT غا ئوخشاش چوڭ تىپتىكى تىپلار قىممەت بولغاچقا ، ئىچكى ساقلىغۇچتا ساقلىغىلى بولمايدۇ.

ماتچېت مۇنداق دېدى: «سىز مىلياردلىغان تۈگۈننى ئىچكى ساقلىغۇچقا سىغدۇرالمايسىز ، شۇڭا ساقلاش تېخىمۇ مۇھىم بولۇپ قالىدۇ. بەختكە قارشى ، پىلان جەريانىدا سانلىق مەلۇمات ساقلاش ھەمىشە سەل قارىلىدۇ.

ئادەتتە ، ئىشلىتىش ئەھۋالىنىڭ قانداق بولۇشىدىن قەتئىينەزەر ، مودېل مەشىق جەريانىدا تۆت ئورتاق نۇقتا بار:

1. Model Training
2
3. سانلىق مەلۇمات ساقلاش
4. تېز ھېسابلاش

مودېللارنى قۇرغاندا ۋە ئورۇنلاشتۇرغاندا ، كۆپىنچە تەلەپلەر تېزلىكتە ئىسپاتلاش (POC) ياكى سىناق مۇھىتىنى ئالدىنقى ئورۇنغا قويۇپ ، مودېل تەربىيىلەشنى باشلايدۇ ، سانلىق مەلۇمات ساقلاشنى ئويلىشىشنىڭ ھاجىتى يوق.

قانداقلا بولمىسۇن ، رىقابەت مەشىق ياكى يەكۈن چىقىرىشنىڭ نەچچە ئاي ھەتتا نەچچە يىل داۋاملىشىشىدا. نۇرغۇن شىركەتلەر بۇ ۋاقىتتا مودېلنىڭ چوڭ-كىچىكلىكىنى تېزلىكتە كېڭەيتىدۇ ، ئۇل ئەسلىھە چوقۇم كېڭىيىۋاتقان مودېل ۋە سانلىق مەلۇمات ئامبىرىغا ماسلىشىشى كېرەك.

گۇگۇلنىڭ مىليونلىغان ML مەشىق خىزمەت يۈكى ئۈستىدىكى تەتقىقاتىدىن مەلۇم بولۇشىچە ، كىرگۈزۈش سانلىق مەلۇمات تۇرۇبىسىغا ئوتتۇرا ھېساب بىلەن% 30 مەشىق ۋاقتى سەرپ قىلىنغان. ئىلگىرىكى تەتقىقاتلار مەشىقنى تېزلىتىش ئۈچۈن GPU نى ئەلالاشتۇرۇشقا ئەھمىيەت بەرگەن بولسىمۇ ، ئەمما سانلىق مەلۇمات تۇرۇبا يولىنىڭ ھەرقايسى جايلىرىنى ئەلالاشتۇرۇشتا نۇرغۇن رىقابەتلەر يەنىلا مەۋجۇت. كۆرۈنەرلىك ھېسابلاش كۈچىڭىز بولغاندا ، ھەقىقىي توسالغۇ سانلىق مەلۇماتنى ھېسابلاشقا قانچىلىك تېز يەتكۈزۈپ نەتىجىگە ئېرىشەلەيسىز.

كونكېرت قىلىپ ئېيتقاندا ، سانلىق مەلۇمات ساقلاش ۋە باشقۇرۇشتىكى رىقابەت سانلىق مەلۇماتنىڭ ئۆسۈشىنى پىلانلاشنى تەلەپ قىلىدۇ ، بۇ سىزنىڭ ئىلگىرىلىشىڭىزگە ئەگىشىپ سانلىق مەلۇماتنىڭ قىممىتىنى ئۈزلۈكسىز چىقىرىشىڭىزغا ياردەم بېرىدۇ ، بولۇپمۇ تېخىمۇ چوڭقۇر تەلەپلەرنى ئوتتۇرىغا قويغان چوڭقۇر ئۆگىنىش ۋە نېرۋا تورى قاتارلىق تېخىمۇ ئىلغار ئىشلىتىش ئەھۋاللىرىغا تەۋەككۈل قىلغاندا. سىغىمى ، ئىقتىدارى ۋە كېڭەيتىشچانلىقى جەھەتتە ساقلاش.

بولۇپمۇ:

تارازىسى
ماشىنا ئۆگىنىشى زور مىقداردىكى سانلىق مەلۇماتلارنى بىر تەرەپ قىلىشنى تەلەپ قىلىدۇ ، سانلىق مەلۇمات مىقدارىنىڭ ئېشىشىغا ئەگىشىپ ، مودېللارنىڭ توغرىلىقىمۇ ئۆسىدۇ. دېمەك ، كارخانىلار چوقۇم ھەر كۈنى تېخىمۇ كۆپ سانلىق مەلۇماتلارنى يىغىشى ۋە ساقلىشى كېرەك. ساقلاش كۆلىمىنى چوڭايتالمىغاندا ، سانلىق مەلۇماتنى كۆپ تەلەپ قىلىدىغان خىزمەت يۈكى توسالغۇ پەيدا قىلىپ ، ئىقتىدارنى چەكلەپ ، GPU نىڭ بىكار ۋاقتىنى كەلتۈرۈپ چىقىرىدۇ.

ئەۋرىشىملىكى
كۆپ خىل كېلىشىملەرنى جانلىق قوللاش (NFS ، SMB ، HTTP ، FTP ، HDFS ۋە S3 نى ئۆز ئىچىگە ئالىدۇ) بىر خىل مۇھىت بىلەنلا چەكلىنىپ قالماستىن ، ئوخشىمىغان سىستېمىلارنىڭ ئېھتىياجىنى قاندۇرۇش ئۈچۈن زۆرۈر.

Latency
I / O كېچىكىشى سانلىق مەلۇماتلارنى كۆپ قېتىم ئوقۇش ۋە قايتا ئوقۇش بولغاچقا مودېللارنى قۇرۇش ۋە ئىشلىتىشتە ئىنتايىن مۇھىم. I / O كېچىكىشنى ئازايتىش مودېللارنىڭ مەشىق ۋاقتىنى كۈن ياكى ئاي قىسقارتقىلى بولىدۇ. تېخىمۇ تېز مودېل ئېچىش تېخىمۇ چوڭ سودا ئەۋزەللىكىگە بىۋاسىتە تەرجىمە قىلىدۇ.

كىرگۈزۈش
ئۈنۈملۈك مودېل تەربىيىلەشتە ساقلاش سىستېمىسىنىڭ كىرگۈزۈلۈشى ئىنتايىن مۇھىم. مەشىق جەريانى نۇرغۇن سانلىق مەلۇماتلارنى ئۆز ئىچىگە ئالىدۇ ، ئادەتتە سائىتىگە تېرابايت بولىدۇ.

پاراللېل زىيارەت
يۇقىرى ئۈنۈمگە ئېرىشىش ئۈچۈن ، مەشىق مودېللىرى پائالىيەتنى كۆپ پاراللېل ۋەزىپىلەرگە ئايرىدى. بۇ ھەمىشە ماشىنا ئۆگىنىش ھېسابلاش ئۇسۇلىنىڭ ئوخشاش بىر ھۆججەتنى بىر نەچچە جەرياندىن (كۆپ خىل فىزىكىلىق مۇلازىمېتىردا بولۇشى مۇمكىن) بىرلا ۋاقىتتا زىيارەت قىلىدىغانلىقىدىن دېرەك بېرىدۇ. ساقلاش سىستېمىسى ئىقتىدارغا تەسىر يەتكۈزمەي تۇرۇپ ، بىرلا ۋاقىتتا تەلەپنى بىر تەرەپ قىلىشى كېرەك.

Dell PowerScale تۆۋەن كەڭلىك ، يۇقىرى توك چىقىرىش ۋە چوڭ تىپتىكى پاراللېل I / O دىكى كۆرۈنەرلىك ئىقتىدارلىرى بىلەن GPU تېز سۈرئەتلىك ھېسابلاشنىڭ كۆڭۈلدىكىدەك ساقلاش تولۇقلىمىسى. PowerScale كۆپ قاتلاملىق سانلىق مەلۇمات سانلىق مەلۇماتلىرىنى تەربىيىلەيدىغان ۋە سىناق قىلىدىغان ئانالىز مودېللىرىغا كېرەكلىك ۋاقىتنى ئۈنۈملۈك قىسقارتىدۇ. PowerScale بارلىق چاقماق ساقلىغۇچتا ، كەڭ بەلۋاغ كەڭلىكى 18 ھەسسە ئېشىپ ، I / O بوتۇلكىسىنى يوقىتىدۇ ، ھەمدە ھازىرقى Isilon توپىغا قوشۇلۇپ ، زور مىقداردىكى قۇرۇلمىغان سانلىق مەلۇماتلارنىڭ قىممىتىنى تېزلىتىدۇ ۋە ئاچقىلى بولىدۇ.

ئۇنىڭ ئۈستىگە ، PowerScale نىڭ كۆپ كېلىشىمگە ئېرىشىش ئىقتىدارى خىزمەت يۈكىنى چەكسىز جانلىقلىق بىلەن تەمىنلەيدۇ ، سانلىق مەلۇماتلارنى بىر كېلىشىم ئارقىلىق ساقلىغىلى ، يەنە بىرىنى ئىشلىتىپ زىيارەت قىلالايسىز. كونكېرت قىلىپ ئېيتقاندا ، PowerScale سۇپىسىنىڭ كۈچلۈك ئىقتىدارلىرى ، ئەۋرىشىملىكى ، كېڭەيتىشچانلىقى ۋە كارخانا دەرىجىلىك ئىقتىدارلىرى تۆۋەندىكى خىرىسلارنى ھەل قىلىشقا ياردەم بېرىدۇ:

- يېڭىلىق يارىتىشنى 2.7 ھەسسە تېزلىتىپ ، مودېل مەشىق دەۋرىنى ئازايتىڭ.

- I / O بوتۇلكىسىنى تۈگىتىپ ، تېخىمۇ تېز مودېل مەشىقى ۋە دەلىللەش بىلەن تەمىنلەپ ، مودېلنىڭ توغرىلىق دەرىجىسىنى ئۆستۈرۈپ ، سانلىق مەلۇمات ئىلمىنىڭ ئۈنۈمدارلىقىنى يۇقىرى كۆتۈردۇق ھەمدە كارخانا دەرىجىسىدىكى ئىقتىدار ، يۇقىرى ئىقتىدار ، ماسلىشىشچانلىق ۋە كېڭەيتىشچانلىقى ئارقىلىق ھېسابلاش مەبلىغىنىڭ پايدىسىنى ئەڭ يۇقىرى چەككە يەتكۈزدۇق. بىر گۇرۇپپىدا ئۈنۈملۈك ساقلاش سىغىمى 119 PB غا يەتكۈزۈش ئارقىلىق تېخىمۇ چوڭقۇر ، يۇقىرى ئېنىقلىقتىكى سانلىق مەلۇمات سانلىق مەلۇماتلىرى بىلەن مودېلنىڭ توغرىلىقىنى ئاشۇرۇش.

- كىچىك ۋە مۇستەقىل كۆلەملەشكەن ھېسابلاش ۋە ساقلاشنى باشلاش ، پۇختا سانلىق مەلۇمات قوغداش ۋە بىخەتەرلىك تاللاشلىرىنى يەتكۈزۈش ئارقىلىق كۆلەمدە ئورۇنلاشتۇرۇشنى ئەمەلگە ئاشۇرۇش.

- تېز ، تۆۋەن خەتەرلىك ئورۇنلاشتۇرۇش ئۈچۈن دەل جايىدا ئانالىز قىلىش ۋە ئالدىن دەلىللەنگەن ھەل قىلىش چارىسى ئارقىلىق سانلىق مەلۇمات ئىلمىنىڭ ئۈنۈمدارلىقىنى ئاشۇرۇش.

- NVIDIA GPU تېزلىتىش ۋە NVIDIA DGX سىستېمىسى بىلەن پايدىلىنىش قۇرۇلمىسىنى ئۆز ئىچىگە ئالغان ئەڭ ئىلغار تېخنىكىلارنى ئاساس قىلغان ئىسپاتلانغان لايىھىلەرنى ئىشلىتىش. PowerScale نىڭ يۇقىرى ئىقتىدارى ۋە ماسلىشىشچانلىقى ماشىنا ئۆگىنىشنىڭ ھەر بىر باسقۇچىدا ، سانلىق مەلۇمات ئىگىلەش ۋە تەييارلىقتىن تارتىپ مودېل مەشىقى ۋە يەكۈنلىنىشكىچە ساقلاش ئىقتىدار تەلىپىگە ماس كېلىدۇ. OneFS مەشغۇلات سىستېمىسى بىلەن بىر ۋاقىتتا ، بارلىق تۈگۈنلەر ئوخشاش بىر OneFS قوزغىتىلغان گۇرۇپپا ئىچىدە يوچۇقسىز مەشغۇلات قىلالايدۇ ، كارخانا باشقۇرۇش ئىقتىدارلىرى ئىقتىدار باشقۇرۇش ، سانلىق مەلۇمات باشقۇرۇش ، بىخەتەرلىك ۋە سانلىق مەلۇمات قوغداش قاتارلىق ئىقتىدارلار بىلەن مودېل تەربىيىلەش ۋە كارخانىلارنى دەلىللەشنى تېز تاماملايدۇ.