猜你喜歡
更多>
AI安全堪憂：360AI安全研究院披露谷歌Tensorflow24個漏洞
2020-09-29 16:39:36 來源：
近日，360 AI安全研究院向谷歌Tensorflow進行了安全測試，并提交了24個漏洞，目前均已被谷歌確認，影響上千萬開發(fā)人員。據(jù)悉，谷歌 Tensorflow官網(wǎng)顯示共有35個漏洞，其中360集團挖掘發(fā)現(xiàn)24個，是提交漏洞最多的公司，在數(shù)量上名列全球首位。
360提交漏洞后，谷歌對所有漏洞劃分危險等級，分為嚴重、高危、中危、低危四種類型。在本次360提交的24個漏洞中，其中危險等級嚴重的漏洞(critical severity)2個，高危(high severity)8個，中危(moderate severity)12個，低危(low severity)2個。
對谷歌來說，360此次提交的漏洞對Tensorflow迭代更新有很大影響，目前谷歌已經(jīng)對24個漏洞全部修復。
Tensorflow是目前最流行的機器學習框架之一，由谷歌2015年11月推出，深受AI開發(fā)人員、應用開發(fā)人員喜愛，其下載量已達上千萬級。
不過，在方便開發(fā)者的同時，Tensorflow也面臨一定安全風險。360 AI安全研究院指出，機器學習框架是最重要的人工智能基礎設施，但目前在研發(fā)機器學習框架時，更多關注其功能、性能以及面向開發(fā)者的易用性，卻缺乏嚴格的安全測試管理和認證，一旦其安全風險被攻擊者惡意利用，就會危及AI產(chǎn)品和應用的可用性和可靠性，甚至導致重大的財產(chǎn)損失與惡劣的社會影響。
“任何程序員都可以在Tensorflow里開發(fā)產(chǎn)品，如果它本身有漏洞，那么開發(fā)人員用它時就會遇到風險，比如攻擊者可以控制開發(fā)人員的電腦，進而可以竊取各種信息，或者安裝后門等?！?60 AI安全研究院舉例說，“此外，若Tensorflow框架存在安全問題，普通用戶在使用依賴于該框架的AI應用時，也將面臨安全風險。”
據(jù)悉，360 AI安全研究院隸屬于360未來安全研究院，專注于人工智能與安全前沿技術研究，是全球首個從系統(tǒng)實現(xiàn)角度對AI關鍵基礎設施進行攻擊的團隊，目前已經(jīng)研制完成多款先進的漏洞挖掘工具，累計發(fā)現(xiàn)100多個主流機器學習框架及依賴組件漏洞，影響范圍包括Tensorflow、Caffe、PyTorch、OpenVINO等。
360 AI安全研究院建議，未來各廠商應加強在框架安全方面的重視和投入，特別是要對涉及框架外部環(huán)境交互的模塊、軟件供應鏈等環(huán)節(jié)進行重點安全性檢測。另外，框架安全應協(xié)同硬件安全、算法安全、數(shù)據(jù)安全等軟硬件各維度的安全防御技術，進而建立一體化安全防御體系。
