猜你喜歡
更多>近日,360 AI安全研究院向谷歌Tensorflow進(jìn)行了安全測試,并提交了24個(gè)漏洞,目前均已被谷歌確認(rèn),影響上千萬開發(fā)人員。據(jù)悉,谷歌 Tensorflow官網(wǎng)顯示共有35個(gè)漏洞,其中360集團(tuán)挖掘發(fā)現(xiàn)24個(gè),是提交漏洞最多的公司,在數(shù)量上名列全球首位。
360提交漏洞后,谷歌對所有漏洞劃分危險(xiǎn)等級,分為嚴(yán)重、高危、中危、低危四種類型。在本次360提交的24個(gè)漏洞中,其中危險(xiǎn)等級嚴(yán)重的漏洞(critical severity)2個(gè),高危(high severity)8個(gè),中危(moderate severity)12個(gè),低危(low severity)2個(gè)。
對谷歌來說,360此次提交的漏洞對Tensorflow迭代更新有很大影響,目前谷歌已經(jīng)對24個(gè)漏洞全部修復(fù)。
Tensorflow是目前最流行的機(jī)器學(xué)習(xí)框架之一,由谷歌2015年11月推出,深受AI開發(fā)人員、應(yīng)用開發(fā)人員喜愛,其下載量已達(dá)上千萬級。
不過,在方便開發(fā)者的同時(shí),Tensorflow也面臨一定安全風(fēng)險(xiǎn)。360 AI安全研究院指出,機(jī)器學(xué)習(xí)框架是最重要的人工智能基礎(chǔ)設(shè)施,但目前在研發(fā)機(jī)器學(xué)習(xí)框架時(shí),更多關(guān)注其功能、性能以及面向開發(fā)者的易用性,卻缺乏嚴(yán)格的安全測試管理和認(rèn)證,一旦其安全風(fēng)險(xiǎn)被攻擊者惡意利用,就會危及AI產(chǎn)品和應(yīng)用的可用性和可靠性,甚至導(dǎo)致重大的財(cái)產(chǎn)損失與惡劣的社會影響。
“任何程序員都可以在Tensorflow里開發(fā)產(chǎn)品,如果它本身有漏洞,那么開發(fā)人員用它時(shí)就會遇到風(fēng)險(xiǎn),比如攻擊者可以控制開發(fā)人員的電腦,進(jìn)而可以竊取各種信息,或者安裝后門等?!?60 AI安全研究院舉例說,“此外,若Tensorflow框架存在安全問題,普通用戶在使用依賴于該框架的AI應(yīng)用時(shí),也將面臨安全風(fēng)險(xiǎn)?!?/p>
據(jù)悉,360 AI安全研究院隸屬于360未來安全研究院,專注于人工智能與安全前沿技術(shù)研究,是全球首個(gè)從系統(tǒng)實(shí)現(xiàn)角度對AI關(guān)鍵基礎(chǔ)設(shè)施進(jìn)行攻擊的團(tuán)隊(duì),目前已經(jīng)研制完成多款先進(jìn)的漏洞挖掘工具,累計(jì)發(fā)現(xiàn)100多個(gè)主流機(jī)器學(xué)習(xí)框架及依賴組件漏洞,影響范圍包括Tensorflow、Caffe、PyTorch、OpenVINO等。
360 AI安全研究院建議,未來各廠商應(yīng)加強(qiáng)在框架安全方面的重視和投入,特別是要對涉及框架外部環(huán)境交互的模塊、軟件供應(yīng)鏈等環(huán)節(jié)進(jìn)行重點(diǎn)安全性檢測。另外,框架安全應(yīng)協(xié)同硬件安全、算法安全、數(shù)據(jù)安全等軟硬件各維度的安全防御技術(shù),進(jìn)而建立一體化安全防御體系。
要聞
更多>終極斗羅15:家丑不可外揚(yáng),傳靈塔卻反其道而行之
新化:洋溪鎮(zhèn)撬動(dòng)行業(yè)協(xié)會力量,助推農(nóng)村建筑安全、耕地保護(hù)和控違拆違工作良性開展
嘉峪關(guān)酒泉機(jī)場工程順利通過行業(yè)驗(yàn)收 計(jì)劃9月7日復(fù)航
3連板大連熱電(600719.SH):擬籌劃的資產(chǎn)重組事項(xiàng)存在不確定性
昊華科技(600378)周評:本周跌3.29%,主力資金合計(jì)凈流出1578.27萬元
借力AI賦能全球創(chuàng)作者 萬興科技攜Wondershare Filmora亮相創(chuàng)作