猜你喜歡
更多>(資料圖)
【環(huán)球網科技綜合報道】5月5日消息,據外媒報道,英偉達正在將其面向提高自動駕駛汽車的安全性能所開發(fā)的“護欄技術”應用到當前大熱的“語言大模型”(GPT)之中,用以解決當下語言大模型面對垃圾數據所產生的“垃圾輸入,垃圾輸出”的問題。
據悉,“護欄技術”可以幫助大模型控制它的輸出,以及過濾它的輸入內容。當用戶誘導大模型生成攻擊性代碼,輸出不道德內容的時候,護欄技術在一定程度上可以限制輸出不安全的內容。同時,護欄技術還能保護大模型不受用戶的攻擊,幫它擋住來自外界的惡意輸入。
目前,英偉達正在將護欄技術整合進他們的 AI 框架 NeMo 中,這是個方便用戶創(chuàng)建各種 AI 模型、并在英偉達 GPU 上加速的框架。
標簽: