助力網(wǎng)絡(luò )內容安全人工智能走上舞臺
每天通過(guò)互聯(lián)網(wǎng)上傳的視頻、圖片、文字數據，用“海量”形容毫不為過(guò)——超過(guò)15億條，而且還在呈數量級增長(cháng)。
將其中涉及恐怖、暴力、色情等違法違規內容過(guò)濾出來(lái)，使其不污染、威脅網(wǎng)絡(luò )空間，以前靠的是人工審核，現在人工智能(AI)開(kāi)始走上舞臺。
8月21日，由中國互聯(lián)網(wǎng)協(xié)會(huì )和阿里巴巴等共同舉辦的“2018網(wǎng)絡(luò )安全生態(tài)峰會(huì )”在北京開(kāi)幕。AI在助力網(wǎng)絡(luò )內容安全上扮演的重要角色成為此次峰會(huì )的熱點(diǎn)議題之一。
AI是必然選擇
可以說(shuō)，面對海量互聯(lián)網(wǎng)數據，用人工智能進(jìn)行互聯(lián)網(wǎng)數據的治理，是一個(gè)不得不做出的選擇。
“相比AI技術(shù)，現有的人工審核方式無(wú)論是成本還是效率都處于顯著(zhù)劣勢。”中國互聯(lián)網(wǎng)協(xié)會(huì )在此次峰會(huì )上發(fā)布的《AI技術(shù)賦能網(wǎng)絡(luò )內容安全保障研究報告》(以下簡(jiǎn)稱(chēng)《報告》)稱(chēng)。
根據《報告》，人工智能已經(jīng)在網(wǎng)絡(luò )文本內容檢測、文本分類(lèi)技術(shù)、視頻和圖片內容識別、語(yǔ)音內容檢測等方面發(fā)揮重要作用。
例如，阿里巴巴開(kāi)發(fā)的云盾內容安全系統可以基于深度學(xué)習技術(shù)，提供文字、圖片、視頻等多媒體的內容風(fēng)險智能識別服務(wù)，有效減少涉及恐怖、暴力、色情等違法違規信息。
國家互聯(lián)網(wǎng)應急中心高級工程師徐杰介紹，傳統的網(wǎng)絡(luò )安全治理方法涉及人工建模和提取特征，也就是描述某個(gè)事物，并構成特征向量。越是復雜的事物，特征向量的復雜程度就越呈指數增長(cháng)。
“AI技術(shù)，特別是近期比較火的深度學(xué)習技術(shù)，為我們處理這些問(wèn)題提供了新的可能。”徐杰說(shuō)，因為深度學(xué)習技術(shù)不再需要人工去描述事物的特征，而是直接把相關(guān)事物的圖片或視頻交給機器去學(xué)習，由機器自己建立模型。
阿里巴巴集團資深算法專(zhuān)家薛暉認為，除了以上優(yōu)勢，AI技術(shù)也增加了網(wǎng)絡(luò )內容治理的可靠性。因為，人工審核的經(jīng)驗因人而異，而且這種經(jīng)驗較難傳承，但是AI技術(shù)無(wú)論是模型還是數據都更容易被繼承。
還需要更加靠譜
盡管AI在保障網(wǎng)絡(luò )內容安全方面已顯出種種優(yōu)勢，但作為一種新興的科技手段，難免還有諸多不足。
“AI本身還有一些問(wèn)題，比如說(shuō)AI很大程度上基于模型和算法，而模型和算法本身具有脆弱性。”移動(dòng)安全聯(lián)盟秘書(shū)長(cháng)楊正軍說(shuō)，如果其模型和算法遭受攻擊，就會(huì )失效。另外，AI是基于海量數據進(jìn)行訓練，假如數據遭到污染，或被攻擊者獲取，后果也不堪設想。
來(lái)自科大訊飛的技術(shù)專(zhuān)家李劍鋒則認為，AI在網(wǎng)絡(luò )內容治理方面存在的最大挑戰，是現在A(yíng)I的能力還有待提升。
李劍鋒舉例說(shuō)，有用戶(hù)發(fā)微博表達心情，內容是“黑夜總會(huì )過(guò)去，白天總會(huì )到來(lái)”。這句話(huà)反復發(fā)不出來(lái)，該用戶(hù)百思不得其解。后來(lái)有朋友提醒他，是因為其中出現了“夜總會(huì )”。
“現在我們用AI技術(shù)，哪怕是一個(gè)非常簡(jiǎn)單的技術(shù)也很難做到100%正確。”李劍鋒解釋說(shuō)，因為現在的機器學(xué)習屬于統計學(xué)機器學(xué)習，包括深度學(xué)習、神經(jīng)網(wǎng)絡(luò )在內都是基于概率論，理論上不能保證100%正確。(記者 劉園園)
