■ 賽迪智庫 張博卿

比如，無人駕駛車要通過識別交通信號標志來決定是通行還是停止，而攻擊者可以生成一個欺騙通行標志的對抗樣本，在行人眼里是禁止通行，但AI系統(tǒng)會識別成允許通行，這足以造成災難性的后果，其原理就是通過打造精確的攻擊樣本欺騙分類器。

事實上，現(xiàn)在已經(jīng)出現(xiàn)了數(shù)據(jù)投毒、對抗式生成網(wǎng)絡偽造人臉識別等攻擊手段，在大量的AI技術落地之前，安全AI需要引起足夠的重視才能從源頭上防范更多的風險，在這個背景下，阿里安全提出“安全AI”的理念。所謂安全AI，是指安全場景中進化出的AI，擁有更強、更多元化的能力；與當前通用AI的理念不同，阿里安全更注重在業(yè)務安全領域垂直縱深的技術積淀，開發(fā)出適應更多安全場景的新一代AI，讓傳統(tǒng)的安全問題找到新的AI解法。

未來趨勢之下，AI仍將迅猛發(fā)展，在更多商業(yè)、工業(yè)和生活場景中落地。安全AI的核心理念就是讓不可能變?yōu)榭赡?，能極大解放人力，也將成為未來網(wǎng)絡安全問題的新解法。