觀察員
-
昇思開源社區新星：共同成長，助中國AI框架崛起
-
呂棟lvdong@guancha.cn
時間來到2023年，學長負責的MindSpore NLP套件正處在項目初期的高速開發演進過程中，需要大量社區開發者投入其中。曾子瑄忙于學校大創項目結題和準備推免材料沒有參加，但他在校內組織的MindSpore開源實習宣傳吸引大量開發者加入。
隨著研究生推免的結束，曾子瑄可支配的靈活時間明顯比以前更多了，這時候恰好學長正在推廣昇思開源社區中“關于在MindSpore NLP套件中遷移模型、單卡微調模型和多卡微調模型”的任務，并且完成任務還能獲得報酬和獎勵，于是曾子瑄很快便接下了這個任務。
在這個過程中，曾子瑄作為MindSpore NLP SIG的核心成員，先后完成四個大模型的遷移工作，包括一個Falcon大模型微調案例開發。在富有挑戰性的算子開發領域，他申請了開源實習，完成了GPU后端的Flash Attention算子在MindSpore NLP的接入與調優，實現了兩倍以上的推理速度提升。在當時，MindSpore NLP套件幾乎不支持任何量化方法，而在比開源實習更高階的開源之夏項目中，曾子瑄完成了基于MindSpore的BitsAndBytes量化庫實現，降低了模型推理對顯存的需求，提升了計算性能，增強了模型部署在端側的可行性。
這其中既有他自身的努力，也離不開昇思開源社區的助力。
“在開發中，MindSpore提供的函數式和對象式融合編程范式，使構建神經網絡和訓練流程變得簡單，提供的API映射文檔也比較全面，大大降低了模型遷移的工作量。在自定義算子方面，MindSpore提供了Custom接口用于接入不同后端的算子，Custom接口會找到動態鏈接庫中相應的函數，只要按照接口規范定義算子，就能夠實現高效的運行時算子加載與運算。”曾子瑄對開發過程中MindSpore的技術優勢印象頗深。
昇思將圍繞開發者真實訴求，持續升級框架架構，使能AI模型未來創新
除了框架本身的技術特性外，加入開源社區還有一個明顯的好處，就是當遇到難題時，有諸多技術大牛可以一起討論解決問題，曾子瑄對此也深有體會。
“在開源之夏的項目開發過程中，因為需要遷移的BitsAndBytes庫本身軟件耦合程度高，關于算子接入的問題剛開始一直沒找到合適的解決方案，后來摸清楚了項目本身的構建和執行邏輯，再跟MindSpore布道師和負責MindSpore自定義算子接口的工程師一起討論，得出了基本解決方案，隨后順利地完成了程序中由上至下一條核心執行線路的移植，奠定了項目完成的基礎。”他說道。
不難發現，正是在社區提供的諸多昇思MindSpore技術公開課、開源實習和活動比賽中，以曾子瑄為代表的年輕開發者獲得了學習、實踐和以練促學的機會，逐步成為AI領域中的新星。截至目前，昇思開源社區已提供30多個系列的AI主題課程，開展過600多場線上和線下的專題學習活動，并且已發布1100+開源實習任務，以及300+模型和算子任務，還舉辦過30多場大賽。
與昇思共成長，攜手托起中國AI的未來
回想起在昇思開源社區中成長的點點滴滴，曾子瑄坦言自己收獲頗多。
- 責任編輯: 呂棟
-
首個國產靶向藥美國獲批，意義多大？
2024-12-23 14:05 -
中車斬獲迪拜56億美元大單
2024-12-23 11:35 -
“人在家中坐，賬戶天上來”，多家銀行回應
2024-12-23 11:33 養老與社保 -
規模堪比美國總部！英偉達被曝擬在臺灣建立新總部
2024-12-23 11:00 -
“蝦滑疑吃出蛆”？海底撈回應
2024-12-21 17:21 食品安全 -
民營經濟促進法草案，提請全國人大常委會會議審議
2024-12-21 09:54 政策風向標 -
越南關停2G，推動4G手機出貨量驟增
2024-12-20 22:17 觀網財經-科創 -
中國“光伏OPEC”發文嚴厲質問央企，怎么回事？
2024-12-20 18:06 -
微信發力社交電商？小店上線“送禮物”功能
2024-12-20 18:00 觀網財經-互聯網 -
華為超充機器人亮相：明年上半年量產
2024-12-20 16:33 華為 -
美企侵權，華為在歐洲勝訴
2024-12-20 15:48 觀網財經-科創 -
小紅書大面積封號登頂熱搜，有用戶稱參加個活動就被封
2024-12-20 14:30 大公司 -
他倆一個自殺、一個被捕？蘋果AI推送假新聞鬧大了
2024-12-20 12:38 網絡安全 -
中國1年期國債收益率跌至1%
2024-12-20 10:39 金融觀察 -
“年底前央行降準幅度或達0.5%”
2024-12-20 10:06 金融觀察 -
英偉達最大買家曝光，一年囤了近50萬顆GPU
2024-12-19 20:18 觀網財經-科創 -
首個智能體安全生態協作組織成立：華為、小米、高通等加入
2024-12-19 19:56 觀網財經-科創 -
放下身段的日本車企，學起中國來能有多徹底？
2024-12-19 16:30 觀察者頭條 -
蘋果被曝與騰訊、字節接洽大模型合作，此前傳與百度合作不順
2024-12-19 14:20 大公司 -
日本買的EUV光刻機開始安裝，準備造2nm芯片
2024-12-19 12:25 觀網財經-科創
相關推薦 -
-
長三角能“橫著走”了！誰是最大贏家？ 評論 30
2024年末，八問中國電影 評論 195
俄方披露：又一條輸華天然氣管道項目啟動 評論 209
征訂教輔就看哪本回扣多，教輔緣何變“教腐”？ 評論 273
超一半被中國掌握，美媒慌了：北約危 評論 193最新聞 Hot-
長三角能“橫著走”了！誰是最大贏家？
-
“她是馬斯克在中國的秘密武器？”
-
“參與暗殺俄國防部高官，4名俄公民遭逮捕”
-
“中國將提前十年達成，其他國家根本沒法比”
-
馬斯克施壓，美國務院涉中俄“反宣傳”機構被裁撤
-
特朗普即將上臺，“日本到了必須思考如何與鄰國相處的時候了”
-
以色列召見梵蒂岡大使：抗議，強烈不滿
-
2024年末，八問中國電影
-
“歷史性拐點！中國這一數據將領先西方競爭對手數年”
-
韓國代總統也要被彈劾了
-
柯文哲涉貪案今日起訴，檢方求刑28年半
-
特朗普圣誕狂發帖，一上來就“出色的中國士兵...”
-
俄方披露：又一條輸華天然氣管道項目啟動
-
阿薩德妻子被曝白血病復發，“情況非常兇險”
-
特朗普的“加拿大州長”人選定了？
-
澤連斯基指責俄軍：特意選圣誕節
-
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯網新聞信息服務許可證：31220170001
網登網視備（滬）02020000041-1號 互聯網宗教信息服務許可證：滬（2024）0000009
廣播電視節目制作經營許可證：（滬）字第03952號
增值電信業務經營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網安備 31010502000027號
中國互聯網舉報中心
上海市互聯網違法與不良信息舉報中心
