99热免费,女高潮大叫喷水流白浆,精品老肥婆88AV,美女后入视频,日韩h

首頁> IT業(yè)界 > > 正文

AI安全堪憂:360AI安全研究院披露谷歌Tensorflow24個漏洞

2020-09-29 16:39:36 來源:

近日,360 AI安全研究院向谷歌Tensorflow進行了安全測試,并提交了24個漏洞,目前均已被谷歌確認,影響上千萬開發(fā)人員。據(jù)悉,谷歌 Tensorflow官網(wǎng)顯示共有35個漏洞,其中360集團挖掘發(fā)現(xiàn)24個,是提交漏洞最多的公司,在數(shù)量上名列全球首位。

360提交漏洞后,谷歌對所有漏洞劃分危險等級,分為嚴重、高危、中危、低危四種類型。在本次360提交的24個漏洞中,其中危險等級嚴重的漏洞(critical severity)2個,高危(high severity)8個,中危(moderate severity)12個,低危(low severity)2個。

對谷歌來說,360此次提交的漏洞對Tensorflow迭代更新有很大影響,目前谷歌已經(jīng)對24個漏洞全部修復。

Tensorflow是目前最流行的機器學習框架之一,由谷歌2015年11月推出,深受AI開發(fā)人員、應用開發(fā)人員喜愛,其下載量已達上千萬級。

不過,在方便開發(fā)者的同時,Tensorflow也面臨一定安全風險。360 AI安全研究院指出,機器學習框架是最重要的人工智能基礎設施,但目前在研發(fā)機器學習框架時,更多關注其功能、性能以及面向開發(fā)者的易用性,卻缺乏嚴格的安全測試管理和認證,一旦其安全風險被攻擊者惡意利用,就會危及AI產(chǎn)品和應用的可用性和可靠性,甚至導致重大的財產(chǎn)損失與惡劣的社會影響。

“任何程序員都可以在Tensorflow里開發(fā)產(chǎn)品,如果它本身有漏洞,那么開發(fā)人員用它時就會遇到風險,比如攻擊者可以控制開發(fā)人員的電腦,進而可以竊取各種信息,或者安裝后門等?!?60 AI安全研究院舉例說,“此外,若Tensorflow框架存在安全問題,普通用戶在使用依賴于該框架的AI應用時,也將面臨安全風險。”

據(jù)悉,360 AI安全研究院隸屬于360未來安全研究院,專注于人工智能與安全前沿技術研究,是全球首個從系統(tǒng)實現(xiàn)角度對AI關鍵基礎設施進行攻擊的團隊,目前已經(jīng)研制完成多款先進的漏洞挖掘工具,累計發(fā)現(xiàn)100多個主流機器學習框架及依賴組件漏洞,影響范圍包括Tensorflow、Caffe、PyTorch、OpenVINO等。

360 AI安全研究院建議,未來各廠商應加強在框架安全方面的重視和投入,特別是要對涉及框架外部環(huán)境交互的模塊、軟件供應鏈等環(huán)節(jié)進行重點安全性檢測。另外,框架安全應協(xié)同硬件安全、算法安全、數(shù)據(jù)安全等軟硬件各維度的安全防御技術,進而建立一體化安全防御體系。

標簽: 安全 漏洞 框架