創科廣場| AI超級叢集全球湧現 元宇宙生物科技依賴速極算力
2022-01-28 10:17
AI 使用大量浮點運算,主要以GPU所構成;全球多家公司正興建針對AI運算的超級叢集(SuperCluster);其中以facebook母公司Meta剛推出的AI Research SuperCluster (RSC)最為驚人,完成後有16,000枚GPU,峰值算力超過了5 exaFLOPS,為全球最快的AI叢集。
Meta的RSC針對建設3D虛擬元宇宙和語文翻譯,年中才會完全落成。Meta開發的自我監督學習(Self-supervised learning)算法,獲得多次突破,已可在大量無標籤的數據自行訓練模型。
商湯AIDC開始營運
Meta也應用Transformers在自然語言處理(NLP)上。自從2017年,Google發表《Attention is All You Need》論文提出BERT,並引入Transformers方案,可以平行執行,以注意力(Attention )機制大幅提高了語言模型的訓練速度;改寫了NLP理解語言的準確性,Meta以Transformers可望打破不同語言的用戶在元宙宇的溝通限制。
本港上市的商湯科技(SenseTime)興建的人工智能計算中心「商湯智算中心」(商湯 AIDC)亦宣布開始營運;AIDC是商湯以SenseCore命名的AI大裝置,設計峰值算力3.74 exaFLOPS。
已建23超級計算集群
商湯也在算法首屈一指,論文曾多次國際會議獲獎。從創業起,商湯建立不少超級計算集群,截至2021年6月30日,商湯已建立23個超級計算集群,擁有超過2萬枚GPU,商湯行政總裁徐立說,上市前商湯每年消耗數億元人民幣採購GPU。
AIDC為亞洲目前最大AI超級計算叢集之一,位於上海臨港新片區;總算力為商湯過去總和的3倍有多。2018年4月份,商湯在沒可供參照案例經驗和實驗場地下開始籌建AIDC,2020年7月動工;AIDC營運後商湯總算力可達4.91 exaFLOPS。
高效率帶動AI產能升級
商湯行政總裁徐立表示:「商湯人工智能計算中心開始營運,是我們在 AI 基礎設施領域長綫布局的重要成果,加速攻堅下一代通用人工智能技術。」
AIDC商湯打造的通用AI基礎設施,SenseCore商湯AI大裝置將計算基礎設施、深度學習平台、模型層三個部分有機整合,實現批量算法模型生產、部署和迭代升級。AIDC可以高效率、更低成本帶動AI產能升級。AIDC也支持萬億級參數模型訓練,有如流水綫工廠,實現不同場景算法模型底層抽象,以模塊化平台套件打造通用服務平台,亦會用於蛋白質折疊等基礎科學研究。
AIDC有隱私和數據保護,機房獨立完全隔離,以隱私安全計算技術,向客戶提供從計算、存儲到網絡等資源隔離,通過ISO/IEC 27001、ISO/IEC 29151信息安全管理認證。商湯將向合作夥伴開放AIDC,以加速數碼轉型。
關鍵字
最新回應