在人工智能落地安防和泛視頻應用的業(yè)務當中，不同的企業(yè)是基于各種類型的目的，其中絕大多數(shù)企業(yè)是要抓住人工智能技術的風口，推動各類創(chuàng)新業(yè)務和應用的實現(xiàn)，以此實現(xiàn)企業(yè)的商業(yè)利益達成。用戶則是希望導入人工智能技術實現(xiàn)更多的創(chuàng)新應用，提升管理的效率，實現(xiàn)產業(yè)的轉型升級。

但是，也不排除一些企業(yè)和用戶出于對非法或犯罪利益的追求，高清監(jiān)控系統(tǒng)表示將人工智能技術用到了違法犯罪的活動當中，目前在各類新聞事件中報導的案例可能只是開端。    

因此，如何在相關系統(tǒng)項目的搭建時對其應用目的進行監(jiān)管和評估，包括運行過程中對其違法、違規(guī)行為進行監(jiān)測，是有必要的。相關技術系統(tǒng)出于社會公共利益為目的由什么機構來監(jiān)管？若是出于商業(yè)利益為目的進行搭建，其針對的社會大眾目標對象的知情權，許可權等權利如何切實保障？這都是要考慮的問題。

另外，在一些項目安防監(jiān)控系統(tǒng)的應用中，人臉數(shù)據(jù)是在公網(wǎng)上傳輸（實質相當于在網(wǎng)上裸奔），而一些人工智能企業(yè)是在國外引入的開源算法基礎上做的二次開發(fā)，自己并不掌握底層的技術與源代碼，等等，這些現(xiàn)象都是潛在風險發(fā)生的節(jié)點。

當前，在不少省市的數(shù)字城市TOG建設規(guī)劃文件中，對數(shù)據(jù)生成、應用、存儲，包括基礎構建等環(huán)節(jié)的安全防護都有比較清晰的條文說明，例如數(shù)字廣東的文件中要求“構建全方位、多層次、一致性的安全防護體系，加強數(shù)據(jù)安全保護，切實保障‘數(shù)字政府’信息基礎設施、平臺和應用系統(tǒng)平穩(wěn)高效安全運行。增強安全管理、安全保障、安全運用等立體防護能力。完善基于物理、網(wǎng)絡、平臺、數(shù)據(jù)、應用、管理的六層立體安全防護體系?！?

對比下來，目前人工智能技術在安防或視頻應用落地的火熱的項目建設中，客觀地講，尚缺乏一套能覆蓋核心技術、產品系統(tǒng)、建設、運營、使用、監(jiān)管等主體對象的系統(tǒng)化機制，或者是規(guī)則。

過去在以視頻圖像為核心的安防系統(tǒng)建設時，有中國圖像圖形學學會視頻監(jiān)控與安全專委會、公安部安全防范技術與風險評估重點實驗室學術委員會等專家小組參與其中，并從上到下建立了比較完善的法規(guī)、標準、規(guī)范文件體系。

在人工智能技術快速落地安防或視頻應用的新時期，針對由此產生的數(shù)據(jù)安全防護問題，是時候開始推進與之相關的管理機制、標準規(guī)范、保障策略、技術支撐等安全防護體系建設了。

正如清華大學媒體大數(shù)據(jù)認知計算研究中心主任王生進教授所說的，現(xiàn)在視頻監(jiān)控與人臉識別的應用太多了，對數(shù)據(jù)的安全防護工作刻不容緩。