新聞 > 科教 > 正文

特斯拉高管披露超級計算機雛形,有望世界第一?

不會造超算的車企不是好的自動駕駛企業?這句話看來不是玩笑。近日,特斯拉公佈了新型超級計算機,就每秒浮點運算( FLOPS)而言,它是世界上排名第五的超級計算機。新機器是特斯拉的第三個超級計算機集群,為還未發佈的超級計算機Dojo(Dojo發音源自日語,意為「道場」)的開發原型版本。一切順利的話,超級計算機Dojo將超越目前世界排名第一的日本超級計算機富岳(Fugaku,富士山的別名)。

以上消息來自特斯拉人工智能與自動駕駛視覺總監(Director of AI and Autopilot Vision) Andrej Karpathy在2021年計算機視覺和模式識別會議(CVPR2021)上所作的報告。在2019年的特斯拉自動駕駛開放日(Autonomy Day)上,特斯拉CEO馬斯克曾「劇透」了Dojo項目——專門用於大規模的圖像和視頻數據處理,其浮點運算能力達到了exaflop級別,也就是每秒運算百億億次。

超級計算機(Super computer)通常是體量巨大、造價高昂的設備,擁有數以萬計的處理器,旨在執行專業性強、計算密集型的任務,可完成極端尺度的宇宙模擬、為藥物反應預測尋找新途徑、發現可用於製造高效有機太陽能電池的新材料等任務,應用於人工智能、生物醫藥和智慧城市建設等多個領域。

Andrej Karpathy是計算機視覺和深度學習領域的頂級專家之一,博士畢業於斯坦福AI實驗室,師從華人AI學者李飛飛。Karpathy的主要研究方向是卷積神經網絡結構,自然語言處理,以及其在計算機視覺上的應用。

Karpathy表示,「我們展示的是使用720個80GB版本的8x A100節點構建的集群。這是一台巨大的超級計算機,就每秒浮點(FLOPS)運算次數而言,我認為它可能是全球第五的超級計算機。第五位目前由英偉達公司的 Selene集群佔據,該集群擁有非常相似的架構和類似的 GPU數量(4480對我們的5760,所以少一點)」。

他於論壇中展示了它的三個集群之一的照片,並公佈了新超級計算機的能力:總算力達1.8 EFLOPS(EFLOPS指每秒百億億次浮點運算),由5760個算力為321TFLOPS(TFLOPS指每秒萬億次浮點運算)的A100顯卡組成720個節點,有10PB的存儲空間,讀寫速度為1.6TBps。

·720 nodes of8x A10080GB.(5760 GPUs total)

·1.8 EFLOPS(720 nodes*312 TFLOPS-FP16-A100*8 gpu/ nodes)

·10 PB of「hot tier」 NVME [email protected] TBps

·640 Tbps of total switching capacity

一家汽車生產商為什麼要做超級計算機?

Karpathy解釋道,如果想要讓計算機以人類的方式對新環境做出反應,這需要一個巨大的數據集,以及超級計算機的處理能力,從而利用從整個車隊收集來的數據訓練和改進特斯拉自動駕駛儀(Autopilot)和為下一代自動駕駛人工智能(AI)提供動力的神經網絡。

而在所有自動駕駛公司中,特斯拉尤為需要超級計算機。

因為馬斯克主張採用純視覺的自動駕駛方法,其依靠攝像頭和機器學習來支持其高級駕駛輔助系統和自動駕駛,而非採用激光雷達(LiDAR)、攝像頭和雷達。在純視覺自動駕駛方法下想改進這套自動駕駛AI達到足夠的可靠性,自研適應計算需要的超級計算機便極為必要。

Dojo將配合無監督學習算法(unsupervised learning,即無需人工對訓練數據集進行標註,系統可以自行根據樣本間的統計規律對樣本集進行分析。如不給任何額外提示的情況下,僅依據一定數量「狗」的圖片特徵,將「狗」的圖片區分出來),來減少特斯拉對於數據人工標註的工作量,進而幫助其數據訓練效率實現指數級提升。

「Dojo使用我們自己的晶片和針對神經網絡訓練而優化的計算機架構,而不是GPU集群。如果我沒弄錯,這將是世界上最好的,」馬斯克2019年如是稱。

2020年,馬斯克在推特(Twitter)發文表示,特斯拉的Dojo超級計算機能夠實現每秒千萬億次浮點運算(1000 PFLOPS),這將使得Dojo成為一款真正的尖端超級計算機。馬斯克稱,特斯拉未來的Dojo超級計算機算力將要達到每秒鐘exaFLOP(百億億次,是千萬億次PFLOPS的1000倍)的級別,並且運算速度要超過富岳(Fugaku),成為世界第一。

2020超級計算大會(SC20)的測算數據顯示,日本的富岳是世界上速度最快的超級計算機,浮點計算的峰值速度達到442PFLOPS(PFLOPS指的是每秒1千萬億次浮點運算),最高性能超過1000 PFLOPS。

2020超級計算大會(SC20):日本超級計算機「富岳」世界第一,美國的 Summit位列第二,第三是美國的Sierra,第四為中國的「神威·太湖之光」,第五位是美國的Selene。

責任編輯: 夏雨荷  來源:澎湃新聞 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2021/0624/1610096.html