-
上海交大與華為聯合發布“數據密集型超算示范中心”
【文/觀察者網 周遠方 編輯/尹哲】
7月9日,在2021世界人工智能大會(WAIC2021)上,上海交通大學與華為公司聯合發布了“數據密集型超算示范中心”。這是雙方繼4月份聯合成立“高性能計算&存儲技術聯合創新中心”以來的又一重磅合作。
上海交通大學黨委常委、副校長奚立峰,上海交通大學網絡信息中心副主任林新華,華為數據存儲與機器視覺產品線總裁周躍峰博士等嘉賓出席并見證。
上海交大與華為聯合發布“數據密集型超算示范中心”
何謂“數據密集型超算”?
華為數據存儲與機器視覺產品線總裁周躍峰介紹,近年來,隨著新技術的應用和新興業務的快速發展,超算業務發生了重大改變,現在參與計算的數據越來越多,比如說一輛自動駕駛汽車,每天訓練所需數據大約60 TB,衛星遙感遙測、天氣預報預測等等領域的超級計算需要大量的數據參與存儲計算,傳統的超算架構,已經遠遠不能夠滿足現在新型應用的需求。這也是“數據密集型超算”這一創新理念的由來。
上海交通大學網絡信息中心副主任林新華介紹,所謂“數據密集型超算”是相對于傳統超算而言的。在本世紀初,配置超算時,存儲基本上是計算系統的附屬品,一般會花60%-70%的精力來配置CPU、網絡等等,最后再花10%-20%的精力配置調試數據和文件系統。
但是,從近10年的發展來看,數據的重要性慢慢超過了算力本身。以一個比較通俗的例子來說,如果某一天我們的手機丟了,可能最焦慮的是手機上的數據丟了,手機本身可能也會讓人心痛,但硬件是可以用錢買到的,而數據丟了可能會很麻煩。所以,以數據為中心打造算力的理念,現在變越來越重要。
數據密集型超算以數據為核心來打造算力,我們先配置好一個數據量在20P左右的龐大的數據池,不管是x86的算力平臺還是arm的算力平臺,都可以插入數據池中。底層的數據池是穩定的,也可以擴容,算力可以靈活配置,這樣,不管是對用戶還是運維來說,都帶來極大的便利性。
對用戶來說,有時候有些數據需要用不同的算力計算,有時候需要用x86算完以后,再用人工智能來算,過去,這只能把大量數據從一臺超算拷貝到另一臺超算,非常麻煩,現在,數據池是統一的,算力只是上面插入的一個工具,可以隨時切換?!斑@就好比吃飯”,林新華說,“不同的算力相當于勺子、叉子、筷子,不管用什么工具,關鍵是要吃到下面的飯”。
對運維來說,過去,如果配置了一臺新的超算系統,就必需把老的系統上的數據都遷移到新的系統,對超算動輒數百TB,甚至PB的數據量來說,這個過程費時費力,還很有可能造成數據錯誤。數據密集型超算從理念上顛覆了這種方式,數據層不需要動,算力就像插件一樣,可以根據需要插入和調換。
對存儲提出更高要求
雖然說數據密集型超算的便利性顯而易見,但從存儲技術上,就提出了很高的要求。
林新華介紹,交大的“數據密集型超算示范中心”主要基于華為OeanStor Pacific高密專用硬件,其并發量和訪問性都相當好,目前,交大的幾個算力平臺的CPU核總共有30000多個,在同一個并行文件系統中都可以穩定運行。
周躍峰介紹,存儲作為超級計算系統的數據底座,在傳統超算HPC向數據密集型超算HPDA升級的過程當中,我們需要解決幾個挑戰,第一,數據量越來越大,第二,數據的類型越來越多,參與計算的數據類型,從過去的二進制文件到今天的非結構化數據,類型層出不窮。第三,不同類型的數據在計算的過程當中需要進行流動,而且需要實現多種協議共享一份數據,避免數據耗時費力的遷移。為了解決這些挑戰,我們和上海交大一起共同打造了數據密集型超算示范區,希望為這些世界級的難題提供答案,提供我們商業級的解決方案。
華為方面進一步介紹,首先,解決海量數據存得下的問題,華為OeanStor Pacific高密專用硬件,基于全新的高密架構設計,提供更高的容量利用率,在有限的機房空間里存下更多數據,更好地滿足海量數據增長的需要。
第二,支撐混合負載問題,交大的超算平臺,有時并行任務高達50個,有的任務要求頻繁的小數據量的讀取,也有的任務要求大文件的快速讀取,因此需要性能更加均衡的存儲。華為OceanStor Pacific推出了新一代分布式并行文件系統,同時支持高帶寬和高IOPS,通過與分布式并行客戶端(DPC)的密切配合,打破單流和單客戶端的性能瓶頸,有效應對混合工作負載的挑戰。
第三,由于數據量的增大、數據應用的復雜化,數據在不同環節、不同系統間高效流動是數據密集型超算面臨的一個主要挑戰。華為推出多協議互通能力。多個存儲服務同時訪問一份數據,支持NFS、CIFS、HDFS和S3等協議的按需部署,通過其中一種協議寫入的數據,無需遷移即可被其他協議讀取,提高跨環節、跨系統的數據分析效率。
周躍峰表示,華為希望在世界中國數字化的浪潮過程當中,特別是在中國東數西存、東數西算的大背景下,通過上海交大和華為公司的合作,能夠盡快使最新研究成果產業化、商業化,幫助國家各個行業真正實現數字化,真正實現超級計算走向平民化,解決我們生活生產當中的各種問題。
- 責任編輯: 周遠方 
-
中國移動建成近50萬座5G基站,占全球總數36%以上
2021-07-11 16:28 世界人工智能大會 -
“大數據和云原生技術融合,中國已經國際領先”
2021-07-11 08:34 大公司 -
150選2!WAIC全球最佳創新項目揭曉
2021-07-10 15:42 世界人工智能大會 -
華為攜40余家伙伴發布“昇騰”四大行業解決方案
2021-07-10 10:36 華為 -
德國科技巨頭:中國將成為世界人工智能的楷模
2021-07-10 09:44 世界人工智能大會 -
徐翔今日出獄
2021-07-09 17:44 -
央行全面降準0.5個百分點,釋放長期資金約1萬億元
2021-07-09 17:29 中國經濟 -
2021世界人工智能大會在滬開幕
2021-07-08 09:01 世界人工智能大會 -
半月談:超級平臺扼殺了什么
2021-07-07 12:20 -
世界人工智能大會直播預告
2021-07-07 09:39 世界人工智能大會 -
證監會主席:將會同公安機關堅決打擊“偽市值管理”等違法行為
2021-07-07 07:28 金融圈 -
上海電氣涉信披違規被調查,子公司或造成83億損失
2021-07-06 16:24 上市公司 -
英政府:知道中企在收購英國最大芯片生產商,但...
2021-07-06 13:38 -
5.64億?聞泰科技拿下英國最大芯片制造商NWF
2021-07-06 08:45 上市公司 -
證監會:防范少數人利用資本市場違法違規“造富”
2021-07-06 07:58 觀察者頭條 -
交易商協會:對南粵銀行、國信證券、民生銀行進行自律處分
2021-07-05 11:33 金融圈 -
進入一級預警后,今年首次中央儲備凍豬肉收儲競價交易2萬噸
2021-07-05 07:41 -
對準智能家居前裝市場,美的分拆美智光電IPO獲受理
2021-07-02 16:35 上市公司 -
華為被打壓,高通想趁機在華做大?
2021-07-02 14:17 上市公司 -
傳王自如入職格力電器,曾多次與董明珠直播帶貨
2021-07-01 19:39 上市公司
相關推薦 -
受中國影響,澳企要在稀土加工業務上發力了 評論 4全國最大!哈密百萬千瓦“光熱+光伏”項目并網發電 評論 58“中國在非洲真正贏得了民心,就連斯威士蘭…” 評論 92“日企抱團是絕望之舉,中國工廠效率質量都是第一” 評論 142最新聞 Hot
-
“沙特曾多次警告德國提防嫌疑人”
-
特朗普最新任命!這次包括火箭隊老板、真人秀制作人
-
巴勒斯坦三個政治派別發表聯合聲明
-
“中國在非洲真正贏得了民心,就連斯威士蘭…”
-
“日企抱團是絕望之舉,中國工廠效率質量都是第一”
-
“中國有能力讓夢想照進現實,將贏得史詩般競爭”
-
被災民暴罵到當場破防,馬克龍發飆:你該慶幸你在法國!
-
美高校敦促國際學生抓緊回來:萬一把中印拉黑名單呢
-
美國政府“逃過一劫”
-
“澤連斯基要求歐盟新外長:對華批評要降調”
-
澳大利亞來了,中國就得走人?澳總理這么回應
-
美媒感慨:基建狂魔發力,我們又要被超越了
-
英國剛公布新任大使,特朗普顧問就痛罵:傻X
-
“來自中國的老大哥能確保我們…”
-
俄羅斯的報復來了
-
澤連斯基罵普京“傻子”,俄方怒斥
-