猜你喜歡
更多>12月7日,燧原科技發(fā)布針對云端推理場景的AI加速產(chǎn)品——第二代云端人工智能推理加速卡“云燧i20”。
據(jù)介紹,作為全新一代云端AI推理加速產(chǎn)品,云燧i20擁有高達(dá)819 GB/s的AI加速卡存儲帶寬,為目前業(yè)內(nèi)最大存儲帶寬,遠(yuǎn)超行業(yè)同類產(chǎn)品水平;同時全面支持從FP32、TF32、FP16、BF16到INT8的計算精度。對比第一代推理產(chǎn)品,云燧i20將浮點(diǎn)算力提升到1.8倍,整型算力提升到3.6倍。
燧原科技CEO趙立東表示,“當(dāng)前,我國芯片產(chǎn)業(yè)正處于激烈的成長與蛻變時代,燧原科技以‘做大芯片,拼硬科技’為時代使命,基于原始創(chuàng)新的軟硬件架構(gòu),正在不斷加速技術(shù)創(chuàng)新與產(chǎn)品迭代。性能趕超業(yè)內(nèi)旗艦GPU的云燧i20正是關(guān)鍵成果之一。”
算力的提升并非單純依靠硬件的升級,而是通過軟件手段,使得現(xiàn)有條件下硬件的利用率和效率被顯著提高。燧原科技通過引入通用高層圖優(yōu)化和大規(guī)模算子融合技術(shù),充分釋放了大容量片內(nèi)存儲和高帶寬存儲的利用率,將模型平均性能提升3.5倍,硬件算力利用率平均提升2倍。
應(yīng)用技術(shù)的提高,往往帶來成本優(yōu)勢。通過升級的編程模型以及算子自動分片、自動生成技術(shù),自定義算子開發(fā)效率翻倍,模型遷移成本大大降低;此外,燧原科技的“馭算”軟件棧增強(qiáng)了對動態(tài)性的支持,使云燧i20在檢測、語音識別、語義理解等場景更具競爭力。
“云燧i20的發(fā)布標(biāo)志著燧原科技在云端AI算力加速領(lǐng)域,從訓(xùn)練到推理的完整產(chǎn)品線已全面迭代到第二代,能夠以更有競爭力的產(chǎn)品,為客戶提供更優(yōu)的AI計算方案?!膘菰萍糃EO趙立東表示。
目前,以語音識別、圖片識別、視頻內(nèi)容分析為主的感知類應(yīng)用,內(nèi)容推薦和欺詐交易攔截等決策類應(yīng)用在云端大部分都是以實時在線的方式提供服務(wù);同時神經(jīng)網(wǎng)絡(luò)的參數(shù)越來越多,數(shù)據(jù)帶寬需求也越來越高,兼顧高帶寬和低延遲變得至關(guān)重要。云燧i20創(chuàng)新性地采用了高帶寬HBM2E存儲,實現(xiàn)了高達(dá)819GB/s的超大帶寬,為各類云端推理業(yè)務(wù)提供高吞吐、低延時的性能,保障其準(zhǔn)確、平穩(wěn)、高效的運(yùn)行。
之江實驗室發(fā)展合作部副部長吳麗娟表示,“之江實驗室今年3月與燧原科技成立聯(lián)合研究中心,圍繞人工智能應(yīng)用場景,共同開發(fā)具有標(biāo)桿性的技術(shù)解決方案,構(gòu)建開源開放的創(chuàng)新生態(tài)系統(tǒng)。目前,燧原科技的第一代人工智能訓(xùn)練產(chǎn)品‘云燧T11’正在之江實驗室搭建千卡高性能計算的液冷集群,打造符合國家碳中和政策導(dǎo)向的低碳綠色數(shù)據(jù)中心。未來,我們還會在智能計算的更多領(lǐng)域合作研發(fā)?!?/p>
浪潮信息副總裁劉軍表示,“燧原科技是國產(chǎn)人工智能計算芯片的領(lǐng)軍企業(yè),浪潮信息與燧原科技通過元腦生態(tài)聯(lián)合創(chuàng)新,在AI整機(jī)系統(tǒng)、AI算力優(yōu)化、場景方案落地等多方面深入合作。此次隨著云燧i20的發(fā)布,標(biāo)志著燧原從訓(xùn)練到推理全面進(jìn)入2.0時代,這也是國產(chǎn)AI算力發(fā)展的里程碑。我們期待和燧原一起緊密合作,共同推進(jìn)中國人工智能產(chǎn)業(yè)的快速發(fā)展。”
標(biāo)簽: 芯片
最新推薦
更多>石榴快播丨推動國資國企高質(zhì)量發(fā)展邁上新臺階 自治區(qū)區(qū)屬國有企業(yè)座談會今日召開
武漢地鐵幾點(diǎn)開班收班(武漢地鐵幾點(diǎn)開班)
河北啟動干旱防御Ⅳ級應(yīng)急響應(yīng) 多措并舉保障農(nóng)業(yè)生產(chǎn)
鄧倫犯了什么事 鄧倫被強(qiáng)制執(zhí)行 基本情況講解
國產(chǎn)小爆款《火山的女兒》銷量60萬!Steam好評如潮
GGII:6月全國備案154個儲能項目 總規(guī)模達(dá)15.4GW/34.9GWh
聯(lián)泰環(huán)保:聯(lián)合中標(biāo)汕頭市澄海區(qū)蓮下污水處理廠二期及配套管網(wǎng)完善建設(shè)項目
猜你喜歡
更多>要聞
更多>終極斗羅15:家丑不可外揚(yáng),傳靈塔卻反其道而行之
新化:洋溪鎮(zhèn)撬動行業(yè)協(xié)會力量,助推農(nóng)村建筑安全、耕地保護(hù)和控違拆違工作良性開展
嘉峪關(guān)酒泉機(jī)場工程順利通過行業(yè)驗收 計劃9月7日復(fù)航
3連板大連熱電(600719.SH):擬籌劃的資產(chǎn)重組事項存在不確定性
昊華科技(600378)周評:本周跌3.29%,主力資金合計凈流出1578.27萬元
借力AI賦能全球創(chuàng)作者 萬興科技攜Wondershare Filmora亮相創(chuàng)作
全部真實業(yè)務(wù)系統(tǒng)!華為云展示盤古大模型行業(yè)應(yīng)用