產經情報

防禦還是破口?辨識AI的安全威脅

日期:2022-12-07

人工智慧(Artificial Intelligence;AI)的發展促進了各種自動化服務與自主系統;同時,瞄準人工智慧的安全威脅也在迅速發展中。

為了因應安全的挑戰,企業組織開始導入AI作為防護利器,包括對於網路攻擊的偵察、預測以及加以反應。然而,AI本身的一些資產就可能是安全威脅的目標,如模型、資料處理、管理策略、網路或機器學習(machine learning;ML)平台等,因此在導入AI時必須更小心謹慎。儘管保護演算法和敏感資料成為運用AI技術的關鍵,但從另一方面來看,這樣的AI技術也可能開啟安全的破口。

為了協助開發人工智慧導向的安全服務與系統,歐洲電信標準協會(European Telecommunications Standards Institute;ETSI)人工智慧安全產業規範小組(Industry Specification Group on Securing Artificial Intelligence;ISG SAI)分析了人工智慧的安全問題及其相應的緩解措施,並為此發佈了兩份小組報告。


詳細內文請參考網址