云計(jì)算的高性能計(jì)算資源如何調(diào)度?
讓我們直面這個(gè)問題吧:資源調(diào)度從來就不是個(gè)誘人的話題。它們是必須要做的事情,但是通常很復(fù)雜而且常常令用戶沮喪、讓系統(tǒng)管理員忙碌。最常見的抱怨是:“為什么我的作業(yè)沒有運(yùn)行?”問題的答案通常依賴于對一些調(diào)度規(guī)則的解釋,或者干脆說已經(jīng)滿負(fù)載,或者在極罕見的情況下稱一個(gè)用戶的程序?qū)е铝嗽搯栴}。
如果你不知道什么是資源的時(shí)刻表,那么接下來的這幾段必須要看了。這個(gè)名詞是說,您有很多個(gè)資源、很多個(gè)作業(yè)在排隊(duì),需要列出這些資源以最佳的狀態(tài)工作。一些常見的資源調(diào)度比如SunGird、Engine,Torque/Maui、Moab、PBS、Platform以及PlatformLava。集群是體現(xiàn)資源調(diào)度最好的例子。在一個(gè)128節(jié)點(diǎn)的集群里,每個(gè)計(jì)算節(jié)點(diǎn)有八個(gè)核。大部分的用戶的程序需要1-16個(gè)核來工作,但是有一些需要256個(gè)核。問題就是,給出一個(gè)工作的清單,什么才是這個(gè)集群被充分利用的最佳工作方式?
用戶在提交"作業(yè)"的時(shí)候經(jīng)常通過一個(gè)腳本(類似于qsub,queuesummit)使得作業(yè)插入到隊(duì)列調(diào)度中去,如果被允許,用戶可以使用類似qstat(queuestatus,隊(duì)列狀態(tài))的腳本來控制自己的程序,同時(shí)打印出一些讓人困擾的信息,沒有一個(gè)信息可以回答你"為什么我的作業(yè)沒有運(yùn)行"(當(dāng)然,這里也提供了這條消息,但是看起來最簡單的方式還是給系統(tǒng)管理員發(fā)個(gè)郵件)。
為了使調(diào)度問題更棘手一點(diǎn),在某些情況下,我們不知道這些應(yīng)用程序?qū)\(yùn)行多長時(shí)間,而且也許有一些其它所需的資源(比如內(nèi)存容量、存儲、處理器類型等)。因此,資源調(diào)度這個(gè)工作并不簡單,但是對于集群利用率來說非常重要。實(shí)際上,多核的出現(xiàn)使得內(nèi)核級調(diào)度工作比以前更加重要(當(dāng)然也更加困難)。在內(nèi)核級,內(nèi)核必須被安排,而且將任務(wù)在核心之間互相轉(zhuǎn)移必須基于緩存。有趣的是,高層次的資源調(diào)度能力已經(jīng)延伸到CPU,控制核心的位置對獲得最好性能是非常必要的。
為什么資源調(diào)度將會成為高性能計(jì)算以后新的、很酷的工具?并不是因?yàn)橐环N新的額GUI或者一些其它的神秘的功能。真正的原因是云計(jì)算。但是這并不意味著云將會很快到處都是,實(shí)際上,資源調(diào)度將會把云放在合適的地方。
最近,我聽到一個(gè)新澤西技術(shù)研究所的DavidPerel使用SunGridEngine(SGE)所做的ApacheHadoop動態(tài)資源分配實(shí)驗(yàn)。隨后有一個(gè)深入的研究,有關(guān)SunGridEngine更新的文章。在新的版本里有兩個(gè)誘人的更新,第一個(gè)是云計(jì)算,第二個(gè)則是Hadoop,類似于一種大眾云計(jì)算的東西。
最特別的是,SGE新的版本允許云中的互換,就好像亞馬遜的EC2。作業(yè)被允許,SGE可以控制之間的聯(lián)系。使用EC2的話,用戶需要為應(yīng)用程序構(gòu)建AMI圖像。除此之外,他們還需要提供EC2上的賬戶信息。一旦做到這一點(diǎn),用戶可以講作業(yè)插入隊(duì)列,對于EC2來說,則有了一個(gè)“云爆發(fā)”。
另外一個(gè)新功能是與Hadoop的整合。如果你不知道什么是Hadoop的話,那就Google一下。只是架設(shè)好一個(gè)Hadopp集群并非易事。這是一種不依賴一個(gè)數(shù)據(jù)庫的強(qiáng)大的搜索模式。通常,地圖搜索減少啟動服務(wù)器的數(shù)量,給每個(gè)本地硬盤驅(qū)動器設(shè)置不同的數(shù)據(jù)。SGE已經(jīng)得到增強(qiáng),現(xiàn)在Hadoop作業(yè)可以直接提交。
在這一點(diǎn)上行,云中的高性能計(jì)算是一件喜憂參半的事情。除非你使用一個(gè)特別設(shè)計(jì)的HPC云計(jì)算,就好像Penguin的POD服務(wù),對HPC性能至關(guān)重要的I/O資源可以多樣化。這可能會改變。作為單獨(dú)服務(wù)器包含更多內(nèi)核。HPC應(yīng)用調(diào)查顯示,57%的HPC用戶使用32處理器或者更少的核心。這些人證實(shí)了ClusterMoney.net有關(guān)此調(diào)查55%的數(shù)字。當(dāng)云計(jì)算開始使用48個(gè)內(nèi)核的服務(wù)器時(shí),可能會消除一些服務(wù)器到服務(wù)器通信問題的形成。
高性能計(jì)算可能會采取一種不同的、使用密集多核服務(wù)器的方式進(jìn)入云計(jì)算。用戶可以在桌面上就將作業(yè)加到SGE中去。這種資源調(diào)度方式會接觸可以運(yùn)行虛擬機(jī)的本地資源或者云中資源。這種資源調(diào)度方式可能會讓HPC實(shí)現(xiàn)寶貴的桌面化。聽起來像網(wǎng)格計(jì)算,但是更簡單。
(責(zé)任編輯:admin)- “掃一掃”關(guān)注融合網(wǎng)微信號
免責(zé)聲明:我方僅為合法的第三方企業(yè)注冊用戶所發(fā)布的內(nèi)容提供存儲空間,融合網(wǎng)不對其發(fā)布的內(nèi)容提供任何形式的保證:不保證內(nèi)容滿足您的要求,不保證融合網(wǎng)的服務(wù)不會中斷。因網(wǎng)絡(luò)狀況、通訊線路、第三方網(wǎng)站或管理部門的要求等任何原因而導(dǎo)致您不能正常使用融合網(wǎng),融合網(wǎng)不承擔(dān)任何法律責(zé)任。
第三方企業(yè)注冊用戶在融合網(wǎng)發(fā)布的內(nèi)容(包含但不限于融合網(wǎng)目前各產(chǎn)品功能里的內(nèi)容)僅表明其第三方企業(yè)注冊用戶的立場和觀點(diǎn),并不代表融合網(wǎng)的立場或觀點(diǎn)。相關(guān)各方及作者發(fā)布此信息的目的在于傳播、分享更多信息,并不代表本網(wǎng)站的觀點(diǎn)和立場,更與本站立場無關(guān)。相關(guān)各方及作者在我方平臺上發(fā)表、發(fā)布的所有資料、言論等僅代表其作者個(gè)人觀點(diǎn),與本網(wǎng)站立場無關(guān),不對您構(gòu)成任何投資、交易等方面的建議。用戶應(yīng)基于自己的獨(dú)立判斷,自行決定并承擔(dān)相應(yīng)風(fēng)險(xiǎn)。
根據(jù)相關(guān)協(xié)議內(nèi)容,第三方企業(yè)注冊用戶已知悉自身作為內(nèi)容的發(fā)布者,需自行對所發(fā)表內(nèi)容(如,字體、圖片、文章內(nèi)容等)負(fù)責(zé),因所發(fā)表內(nèi)容(如,字體、圖片、文章內(nèi)容等)等所引發(fā)的一切糾紛均由該內(nèi)容的發(fā)布者(即,第三方企業(yè)注冊用戶)承擔(dān)全部法律及連帶責(zé)任。融合網(wǎng)不承擔(dān)任何法律及連帶責(zé)任。
第三方企業(yè)注冊用戶在融合網(wǎng)相關(guān)欄目上所發(fā)布的涉嫌侵犯他人知識產(chǎn)權(quán)或其他合法權(quán)益的內(nèi)容(如,字體、圖片、文章內(nèi)容等),經(jīng)相關(guān)版權(quán)方、權(quán)利方等提供初步證據(jù),融合網(wǎng)有權(quán)先行予以刪除,并保留移交司法機(jī)關(guān)查處的權(quán)利。參照相應(yīng)司法機(jī)關(guān)的查處結(jié)果,融合網(wǎng)對于第三方企業(yè)用戶所發(fā)布內(nèi)容的處置具有最終決定權(quán)。
個(gè)人或單位如認(rèn)為第三方企業(yè)注冊用戶在融合網(wǎng)上發(fā)布的內(nèi)容(如,字體、圖片、文章內(nèi)容等)存在侵犯自身合法權(quán)益的,應(yīng)準(zhǔn)備好具有法律效應(yīng)的證明材料,及時(shí)與融合網(wǎng)取得聯(lián)系,以便融合網(wǎng)及時(shí)協(xié)調(diào)第三方企業(yè)注冊用戶并迅速做出相應(yīng)處理工作。
融合網(wǎng)聯(lián)系方式:(一)、電話:(010)57722280;(二)、電子郵箱:2029555353@qq.com dwrh@dwrh.net
對免責(zé)聲明的解釋、修改及更新權(quán)均屬于融合網(wǎng)所有。
相關(guān)新聞>>
您可能感興趣的文章
- 三大應(yīng)用遷移工具改善云計(jì)算的互操作性
- 京東海淀云計(jì)算研發(fā)中心揭牌 辦公區(qū)域9940平米
- 邱善勤:中小企業(yè)如何借力云計(jì)算
- 云計(jì)算“東風(fēng)”勁吹 信息安全企業(yè)部署關(guān)鍵
- IBM軟件布局2011 業(yè)務(wù)分析、云計(jì)算等將成熱點(diǎn)
- 宏碁接連失利 孤注一擲布局云計(jì)算不被看好
- 華碩、宏碁確認(rèn)停產(chǎn)上網(wǎng)本 云計(jì)算或令其重生
- 國內(nèi)云產(chǎn)業(yè)縱深發(fā)展 三大優(yōu)勢引運(yùn)營商IDC青睞
- 云計(jì)算的三種服務(wù)模式與四種部署模型
- 企業(yè)數(shù)據(jù)管理:云計(jì)算的催化