經濟觀察網 記者 王涵 8月31日，一款名為“ZAO”的換臉軟件在朋友圈刷屏，據了解ZAO使用AI技術，用戶只需要一張正臉照，就可以替換為影視作品或者小視頻中的人物，生成以自己為主角的視頻片段。

但隨后用戶協議條款涉及隱私和數據安全引發爭論。ZAO被網友質疑過度攫取用戶授權，將肖像侵權風險轉嫁用戶。

隨著數據安全和隱私保護成為人工智能系統在開發和應用過程中面臨首要安全挑戰，該如何兼顧數據安全和人工智能技術發展成為研究的難題。

8月30日，在2019年世界人工智能安全高端對話會上，上海市網絡安全和信息化委員會辦公室總工程師楊海軍提出人工智能、5G等技術將推動新一輪革命，也帶來新的治理挑戰，必須全面認識人工智能安全問題，通過法律、政策、標準等綜合施策引導人工智能安全發展。

當下，數據安全風險接踵而至。據會上觀安信息聯合賽博研究院共同發布《人工智能數據安全風險與治理》報告指出，分別為數據隱私問題、數據質量問題和數據保護問題。

數據隱私問題指在人工智能的開發、測試、運行過程中存在的隱私侵犯問題，這一類問題當前是人工智能應用需要解決的關鍵問題之一；數據質量問題主要指用于人工智能的訓練數據集以及采集的現場數據潛在存在的質量問題，以及可能導致的后果，這是人工智能特有的一類數據安全問題；數據保護問題主要指人工智能開發及應用企業對持有數據的安全保護問題，涉及數據采集、傳輸、存儲、使用、流轉等全生命周期，以及人工智能開發和應用等各個環節。

觀安信息CTO胡紹勇在接受經濟觀察網記者專訪時表示：“隨著人工智能的快速發展，相關數據安全事件的不斷曝光雖然已經引發了各方的擔憂和關切，也在法規、標準、技術層面提出了適用性的解決方案，但距離有效解決數據安全問題，仍存在較大差距。”

實際上，法規層面，法律存在盲點，例如針對訓練數據集的質量問題，當前國內外都缺乏相應的法規予以規范。此外仍未推出《數據安全法》《個人信息保護法》等數據安全法規，而既有法規無法對人工智能中涉及的數據隱私問題予以全面、有效規制。

胡紹勇分析，“部分APP軟件存在過度收集客戶信息的現況。”企業在意識方面，由于人工智能相關技術發展處于早期階段，且發展迅速，現在投入大量資源開展人工智能技術的開發和應用研究，但企業方面關注其中的數據安全問題還是存在巨大的進步空間，除非出現了相關的數據泄露事件或隱私爭議性事件。

另外一方面，當前在全球范圍內，無論是人工智能數據安全相關的通用標準，還是細分領域標準，都比較缺乏?！秷蟾妗凤@示，在技術層面，當前基于隱私的機器學習技術，以及針對各種惡意攻擊的防御技術和數據保護技術都在快速發展，但仍不能解決全部問題。