99热免费,女高潮大叫喷水流白浆,精品老肥婆88AV,美女后入视频,日韩h

首頁> 要聞 > > 正文

云端AI推理卡“云燧i20”發(fā)布

2021-12-07 23:09:45 來源:光明網(wǎng)

12月7日,燧原科技發(fā)布針對云端推理場景的AI加速產(chǎn)品——第二代云端人工智能推理加速卡“云燧i20”。

據(jù)介紹,作為全新一代云端AI推理加速產(chǎn)品,云燧i20擁有高達(dá)819 GB/s的AI加速卡存儲帶寬,為目前業(yè)內(nèi)最大存儲帶寬,遠(yuǎn)超行業(yè)同類產(chǎn)品水平;同時全面支持從FP32、TF32、FP16、BF16到INT8的計算精度。對比第一代推理產(chǎn)品,云燧i20將浮點(diǎn)算力提升到1.8倍,整型算力提升到3.6倍。

燧原科技CEO趙立東表示,“當(dāng)前,我國芯片產(chǎn)業(yè)正處于激烈的成長與蛻變時代,燧原科技以‘做大芯片,拼硬科技’為時代使命,基于原始創(chuàng)新的軟硬件架構(gòu),正在不斷加速技術(shù)創(chuàng)新與產(chǎn)品迭代。性能趕超業(yè)內(nèi)旗艦GPU的云燧i20正是關(guān)鍵成果之一。”

算力的提升并非單純依靠硬件的升級,而是通過軟件手段,使得現(xiàn)有條件下硬件的利用率和效率被顯著提高。燧原科技通過引入通用高層圖優(yōu)化和大規(guī)模算子融合技術(shù),充分釋放了大容量片內(nèi)存儲和高帶寬存儲的利用率,將模型平均性能提升3.5倍,硬件算力利用率平均提升2倍。

應(yīng)用技術(shù)的提高,往往帶來成本優(yōu)勢。通過升級的編程模型以及算子自動分片、自動生成技術(shù),自定義算子開發(fā)效率翻倍,模型遷移成本大大降低;此外,燧原科技的“馭算”軟件棧增強(qiáng)了對動態(tài)性的支持,使云燧i20在檢測、語音識別、語義理解等場景更具競爭力。

“云燧i20的發(fā)布標(biāo)志著燧原科技在云端AI算力加速領(lǐng)域,從訓(xùn)練到推理的完整產(chǎn)品線已全面迭代到第二代,能夠以更有競爭力的產(chǎn)品,為客戶提供更優(yōu)的AI計算方案?!膘菰萍糃EO趙立東表示。

目前,以語音識別、圖片識別、視頻內(nèi)容分析為主的感知類應(yīng)用,內(nèi)容推薦和欺詐交易攔截等決策類應(yīng)用在云端大部分都是以實時在線的方式提供服務(wù);同時神經(jīng)網(wǎng)絡(luò)的參數(shù)越來越多,數(shù)據(jù)帶寬需求也越來越高,兼顧高帶寬和低延遲變得至關(guān)重要。云燧i20創(chuàng)新性地采用了高帶寬HBM2E存儲,實現(xiàn)了高達(dá)819GB/s的超大帶寬,為各類云端推理業(yè)務(wù)提供高吞吐、低延時的性能,保障其準(zhǔn)確、平穩(wěn)、高效的運(yùn)行。

之江實驗室發(fā)展合作部副部長吳麗娟表示,“之江實驗室今年3月與燧原科技成立聯(lián)合研究中心,圍繞人工智能應(yīng)用場景,共同開發(fā)具有標(biāo)桿性的技術(shù)解決方案,構(gòu)建開源開放的創(chuàng)新生態(tài)系統(tǒng)。目前,燧原科技的第一代人工智能訓(xùn)練產(chǎn)品‘云燧T11’正在之江實驗室搭建千卡高性能計算的液冷集群,打造符合國家碳中和政策導(dǎo)向的低碳綠色數(shù)據(jù)中心。未來,我們還會在智能計算的更多領(lǐng)域合作研發(fā)?!?/p>

浪潮信息副總裁劉軍表示,“燧原科技是國產(chǎn)人工智能計算芯片的領(lǐng)軍企業(yè),浪潮信息與燧原科技通過元腦生態(tài)聯(lián)合創(chuàng)新,在AI整機(jī)系統(tǒng)、AI算力優(yōu)化、場景方案落地等多方面深入合作。此次隨著云燧i20的發(fā)布,標(biāo)志著燧原從訓(xùn)練到推理全面進(jìn)入2.0時代,這也是國產(chǎn)AI算力發(fā)展的里程碑。我們期待和燧原一起緊密合作,共同推進(jìn)中國人工智能產(chǎn)業(yè)的快速發(fā)展。”

標(biāo)簽: 芯片