6月7日，中國互聯(lián)網(wǎng)協(xié)會召開第275期藍(lán)海沙龍——“AI時代下的數(shù)據(jù)安全治理與發(fā)展”研討會。工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)安全處負(fù)責(zé)同志，清華大學(xué)計算機(jī)科學(xué)與技術(shù)系教授、人工智能研究院知識智能中心主任李涓子，中國社會科學(xué)院法學(xué)研究所研究員支振鋒，北京理工大學(xué)計算機(jī)學(xué)院副教授、計算機(jī)網(wǎng)絡(luò)攻防對抗研究所所長閆懷志，北京交通大學(xué)電子信息工程學(xué)院副教授李勇，中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)絡(luò)安全研究中心數(shù)據(jù)安全部副主任郝春亮，北京理工大學(xué)法學(xué)院助理教授劉影，中國信息通信研究院安全研究所工程師秦博陽，奇安信集團(tuán)數(shù)據(jù)安全治理部總經(jīng)理楚赟，阿里巴巴集團(tuán)公共事務(wù)總監(jiān)肖堯，貝殼集團(tuán)合規(guī)事務(wù)中心負(fù)責(zé)人張朝等專家參加了會議。會議由中國互聯(lián)網(wǎng)協(xié)會副秘書長裴瑋主持。

裴瑋表示，在“數(shù)智化”時代，數(shù)據(jù)作為新型生產(chǎn)要素，已成為社會經(jīng)濟(jì)發(fā)展的重要驅(qū)動力，其安全問題關(guān)乎廣大群眾的切身利益。以ChatGPT為代表的AIGC應(yīng)用迅猛發(fā)展，重塑了數(shù)據(jù)安全形勢。在AI場景下，數(shù)據(jù)的特性決定了其具有可復(fù)制、易泄露、來源廣、危害大、監(jiān)管難等現(xiàn)實問題，使數(shù)據(jù)包括采集、存儲和處理等全生命周期階段面臨諸多新型風(fēng)險，需要更具針對性的開展技術(shù)、機(jī)制與規(guī)則設(shè)計。本次研討會結(jié)合我國數(shù)據(jù)安全行業(yè)發(fā)展現(xiàn)狀，重點關(guān)注AI時代下的數(shù)據(jù)安全治理形勢，討論如何統(tǒng)籌推進(jìn)數(shù)據(jù)安全與發(fā)展，旨在為政府部門的監(jiān)管和治理提供思路和建議，更好地推動我國AI行業(yè)的建設(shè)和高質(zhì)量發(fā)展。

秦博陽表示，近年來國家明確了數(shù)據(jù)安全產(chǎn)業(yè)的理論設(shè)計和總體部署，為產(chǎn)業(yè)發(fā)展提供了政策基礎(chǔ)和實踐指引。從技術(shù)視角看，數(shù)據(jù)安全產(chǎn)業(yè)在技術(shù)攻關(guān)和產(chǎn)品研發(fā)均有推進(jìn)，依托政產(chǎn)學(xué)研已有資源加緊向互聯(lián)網(wǎng)、人工智能、數(shù)據(jù)安全實踐響應(yīng)的關(guān)鍵技術(shù)研發(fā)與攻關(guān)。在應(yīng)用示范方面，23年工信部組織開展工業(yè)和信息化領(lǐng)域數(shù)據(jù)安全典型案例遴選工作。在標(biāo)準(zhǔn)制定方面，數(shù)據(jù)安全標(biāo)準(zhǔn)體系陸續(xù)發(fā)布，朝著體系化繼續(xù)推進(jìn)，產(chǎn)業(yè)標(biāo)準(zhǔn)加快制定，涵蓋數(shù)據(jù)分級分類、數(shù)據(jù)異常行為檢測等技術(shù)要求，逐步發(fā)揮對產(chǎn)業(yè)發(fā)展的支撐引領(lǐng)作用。產(chǎn)業(yè)生態(tài)方面，產(chǎn)學(xué)研用多方加速聚集，數(shù)據(jù)安全相關(guān)會展沙龍等系列活動持續(xù)不斷，為激發(fā)創(chuàng)新發(fā)展活力和培育產(chǎn)業(yè)生態(tài)營造了良好的氛圍。未來，產(chǎn)業(yè)參與主體需要抓緊發(fā)展機(jī)遇期聚焦相關(guān)能力創(chuàng)新，推動數(shù)據(jù)安全產(chǎn)業(yè)高質(zhì)量發(fā)展。一是以推進(jìn)關(guān)鍵技術(shù)攻關(guān)，推動基礎(chǔ)理論研究、加強(qiáng)相關(guān)技術(shù)研發(fā)，針對重點行業(yè)和重點業(yè)務(wù)場景，研制定制化、專業(yè)化的產(chǎn)品服務(wù)，強(qiáng)化供給側(cè)與需求側(cè)對接。二是構(gòu)建繁榮數(shù)據(jù)安全產(chǎn)業(yè)生態(tài)，聚集相關(guān)資源，以園區(qū)的建設(shè)帶動周邊產(chǎn)業(yè)聚集發(fā)展，強(qiáng)化技術(shù)設(shè)施建設(shè)和數(shù)據(jù)信息共享。三是推進(jìn)產(chǎn)業(yè)主體培育工作，建立多層次、梯度式的企業(yè)產(chǎn)品體系，鼓勵相關(guān)企業(yè)強(qiáng)化自身運(yùn)營能力，加強(qiáng)中小微企業(yè)的自主創(chuàng)新能力。

張朝表示，伴隨著互聯(lián)網(wǎng)行業(yè)的發(fā)展，數(shù)據(jù)采集的類型也在不斷擴(kuò)充，從信息類數(shù)據(jù)、到消費(fèi)類數(shù)據(jù)、到供給類數(shù)據(jù)，到了產(chǎn)業(yè)互聯(lián)網(wǎng)階段，數(shù)據(jù)已變成企業(yè)決策與開展業(yè)務(wù)的核心參考要素，和驅(qū)動產(chǎn)業(yè)發(fā)展的核心要素?，F(xiàn)在到了AI時代下，又有了新的問題范疇，比如生成式人工智能核心問題是數(shù)據(jù)輸入和數(shù)據(jù)輸出兩端的問題，數(shù)據(jù)輸入端的問題包括數(shù)據(jù)采集手段的合規(guī)性、數(shù)據(jù)隱私合規(guī)性、IP侵權(quán)性、數(shù)據(jù)內(nèi)容的合法性，中間是算法的公允性問題。數(shù)據(jù)輸出階段，核心問題是防止實質(zhì)性替代、防止誤導(dǎo)和偏見。面對大數(shù)據(jù)和AI時代，既往針對小數(shù)據(jù)集的監(jiān)管思路不再完全有效，事先獲得數(shù)據(jù)權(quán)人授權(quán)的規(guī)范邏輯在ＡＩ時代很難行得通。如何不錯過發(fā)展的黃金期，在發(fā)展中解決問題避免抑制創(chuàng)新就非常關(guān)鍵。在監(jiān)管框架方面，現(xiàn)行法律需要更加精準(zhǔn)、可預(yù)測、可落地。同時，還需要一些與業(yè)務(wù)具有較高兼容性的技術(shù)方案或工具，用以解決技術(shù)阻礙。

肖堯表示，AI時代的數(shù)據(jù)安全問題與DT時代有很大不同，由于大模型更多需要專業(yè)化、高質(zhì)量的知識性數(shù)據(jù)，而非用戶的行為數(shù)據(jù)和個人信息，因此不會對過往針對個信、算法等方面的監(jiān)管措施產(chǎn)生顛覆性影響。AI時代的數(shù)據(jù)安全問題主要聚焦在價值觀對齊、內(nèi)容合規(guī)、模型幻覺、模型被攻擊導(dǎo)致的數(shù)據(jù)泄漏等方面，這些都與模型的安全能力高度相關(guān)。因此應(yīng)更多依靠模型的安全能力來應(yīng)對數(shù)據(jù)安全風(fēng)險。

當(dāng)前，阿里集團(tuán)通過在數(shù)據(jù)層面進(jìn)行清洗和再構(gòu)建、對風(fēng)險數(shù)據(jù)進(jìn)行過濾；在模型層面構(gòu)建內(nèi)生安全和外層護(hù)欄機(jī)制對攻擊進(jìn)行防范；在評測層面開展持續(xù)性的內(nèi)外部動態(tài)評測，指導(dǎo)模型安全能力迭代，并在訓(xùn)練和生成環(huán)節(jié)開展知產(chǎn)保護(hù)和隱私保護(hù)措施，來確保全生命周期的安全。未來，建議建立一個產(chǎn)學(xué)研多方共治的機(jī)制，企業(yè)做好自身的安全策略和能力建設(shè)，向公眾進(jìn)行闡釋和說明以提高公眾參與，并為立法提供支撐。行政部門指導(dǎo)企業(yè)利用人工智能合規(guī)開展業(yè)務(wù)，將底線風(fēng)險指明，并在爭議性話題上，建立明確的法律規(guī)范。社會組織與企業(yè)、行政管理部門協(xié)同聯(lián)動，積極制定行業(yè)標(biāo)準(zhǔn)，開展行業(yè)自律。最終實現(xiàn)治理效能的平衡性、治理主體的協(xié)調(diào)性、治理手段的靈活性的有機(jī)統(tǒng)一。

楚赟表示，從當(dāng)前數(shù)據(jù)安全治理發(fā)展現(xiàn)狀看，國家層面進(jìn)展迅速，法律法規(guī)、標(biāo)準(zhǔn)體系紛紛建立起來，數(shù)據(jù)安全技術(shù)包括加密、脫敏、標(biāo)記、隱私計算等也有很大進(jìn)步，監(jiān)管方面也多方開展數(shù)據(jù)安全專項檢查行動，監(jiān)管力度越來越強(qiáng)，數(shù)據(jù)安全產(chǎn)業(yè)開始發(fā)展起來。但是數(shù)據(jù)安全落地還存在難點，數(shù)據(jù)確權(quán)存在爭議，數(shù)據(jù)安全治理的多部門協(xié)作也存在困難。一方面，數(shù)據(jù)合規(guī)的落地困難，合規(guī)標(biāo)準(zhǔn)、技術(shù)防護(hù)的基線要求無法明確，標(biāo)準(zhǔn)的落實在企業(yè)內(nèi)部施行難度較大，另一方面，安全技術(shù)發(fā)展迅速，但在云環(huán)境、大數(shù)據(jù)環(huán)境下，原有技術(shù)的堆砌，無法解決新的數(shù)據(jù)安全問題，缺乏體系化的技術(shù)框架。建議從技術(shù)層面加強(qiáng)核心技術(shù)的研發(fā)和應(yīng)用，例如隱私計算、匿名化等，在數(shù)據(jù)流通的全流程中進(jìn)行安全防護(hù)，利用人工智能提升數(shù)據(jù)安全防護(hù)能力，如行為分析、數(shù)據(jù)安全風(fēng)險防御，同時需要不同安全廠商的數(shù)據(jù)安全技術(shù)能力的互聯(lián)互通，構(gòu)建統(tǒng)一的數(shù)據(jù)安全管控平臺，實現(xiàn)數(shù)據(jù)安全的集中管理和監(jiān)控。協(xié)會可以通過更多組織廠商間技術(shù)拉通和交流，從整體上提升數(shù)據(jù)安全能力。并重視數(shù)據(jù)安全教育和培訓(xùn)，提升全社會數(shù)據(jù)安全意識和能力水平。此外，數(shù)據(jù)安全應(yīng)急機(jī)制與國際合作機(jī)制也要發(fā)展起來，實現(xiàn)數(shù)據(jù)安全能力的綜合提升。

劉影表示，從知識產(chǎn)權(quán)視角看，AI時代數(shù)據(jù)問題集中存在于著作權(quán)、專利權(quán)和反不正當(dāng)競爭三個領(lǐng)域。著作權(quán)方面，存在獨(dú)創(chuàng)性認(rèn)定、作品權(quán)利歸屬、著作權(quán)侵權(quán)、以及國際管轄權(quán)等問題。專利權(quán)方面，需要關(guān)注AIGC輔助完成的技術(shù)方案是否具有可專利性，特別是作為大模型核心的算法以及參數(shù)的技術(shù)構(gòu)造是否有可專利性。此外，還可能涉及反不正當(dāng)競爭中的關(guān)鍵問題，例如是否需要將模型參數(shù)作為商業(yè)秘密加以保護(hù)，以及如何與反法修訂草案中增設(shè)的商業(yè)數(shù)據(jù)專門條款相銜接。參考美國、日本等代表性國家，我國著作權(quán)權(quán)利限制改造需要考慮如何支持人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展需求，同時避免大幅破壞對著作權(quán)人的的激勵。

李勇表示，當(dāng)前隱私計算、區(qū)塊鏈等技術(shù)受到學(xué)術(shù)界和產(chǎn)業(yè)界的普遍關(guān)注。隱私計算與數(shù)據(jù)安全技術(shù)，正逐步從學(xué)術(shù)研究向產(chǎn)業(yè)實踐應(yīng)用落地，實現(xiàn)數(shù)據(jù)“可用不可見”與AI時代的各方權(quán)益都有吻合。同時，不能僅依靠技術(shù)治理數(shù)據(jù)安全問題，還要重視人的因素在數(shù)據(jù)安全中的重要影響。在數(shù)據(jù)多元共治生態(tài)構(gòu)建思路方面，借鑒跨領(lǐng)域、跨行業(yè)的有益經(jīng)驗與策略，如思考以治水的思路，促進(jìn)數(shù)據(jù)有序流動并引導(dǎo)數(shù)據(jù)發(fā)揮更大作用和價值。此外，以多方協(xié)作的方式確保數(shù)據(jù)健康、安全、有序流動。

閆懷志表示，人工智能的三駕馬車包括算力、算法和數(shù)據(jù)，從數(shù)據(jù)安全管控的角度來看，AI算力基本上無法控制，算法本身可以實施人為控制但是可控程度受限，而數(shù)據(jù)的可控程度較高且重要性也越來越強(qiáng)。當(dāng)前，我國數(shù)據(jù)安全的法律法規(guī)較為健全，相關(guān)標(biāo)準(zhǔn)規(guī)范對數(shù)據(jù)安全覆蓋也比較全面，但針對AI背景下數(shù)據(jù)安全的相關(guān)約束尚處于起步階段。同時，數(shù)據(jù)安全人才也有較大缺口，相關(guān)人才儲備不足，培養(yǎng)力度不夠，數(shù)據(jù)安全領(lǐng)域的新增職業(yè)也未能充分考慮AI應(yīng)用背景。此外，跨境數(shù)據(jù)流動、隱私保護(hù)、算法黑箱領(lǐng)域也存在不少短板?？傮w來看，加強(qiáng)數(shù)據(jù)本身的安全治理和防護(hù)至關(guān)重要。應(yīng)對AI技術(shù)企業(yè)做好監(jiān)管，實現(xiàn)數(shù)據(jù)利用和安全保護(hù)的平衡，從數(shù)據(jù)源頭展開治理，制定可行的政策促進(jìn)數(shù)據(jù)安全基礎(chǔ)要求的落實，在實現(xiàn)數(shù)據(jù)脫敏、匿名化等傳統(tǒng)要求的基礎(chǔ)上，重點發(fā)展差分隱私計算、多方安全計算等安全技術(shù)。同時，數(shù)據(jù)安全評估與應(yīng)急處置機(jī)制也需要完善，要嘗試構(gòu)建多層次的監(jiān)管平臺實現(xiàn)數(shù)據(jù)安全的全面治理。

支振鋒表示，要以從容的心態(tài)面對數(shù)據(jù)安全問題，我國數(shù)據(jù)安全領(lǐng)域的制度、規(guī)范、技術(shù)等都已建立了框架，對于風(fēng)險認(rèn)知也較以往更為清晰。目前看，AI應(yīng)用未產(chǎn)生顛覆式的安全問題，再整體較好的框架的基礎(chǔ)上，建議將爭議問題討論明確后，再形成具體規(guī)范。具體到數(shù)據(jù)安全問題，主要是認(rèn)知和數(shù)據(jù)處理的問題，當(dāng)前對數(shù)據(jù)問題的認(rèn)知存諸多悖論，如既追求生活便利，又希望受到良好保護(hù)，因此首先要建立符合發(fā)展需求的認(rèn)知。在法規(guī)政策和標(biāo)準(zhǔn)上，可以對個人隱私、個人信息、個人數(shù)據(jù)做好區(qū)分。重視脫敏和匿名化處理的重要性，并要禁止還原，確保數(shù)據(jù)與個人能實現(xiàn)分離。另外基于生物識別信息不可變、不可篡改的特性，也需要重點明確該類信息的監(jiān)管問題。

李涓子表示，對數(shù)據(jù)安全治理中對數(shù)據(jù)處理在安全方面的處理的要求是不會改變的，建議構(gòu)建數(shù)據(jù)安全治理的基礎(chǔ)設(shè)施，不斷完善對已有數(shù)據(jù)安全治理方面的能力并提供服務(wù)；另一方面隨著AI技術(shù)發(fā)展考慮出現(xiàn)新的數(shù)據(jù)類型的治理，如AI生成的內(nèi)容數(shù)據(jù)安全以及當(dāng)前人工智能中工具調(diào)用中的安全問題。隨著人工智能的發(fā)展，可針對新要素完善相應(yīng)的法律法規(guī)，并在法律、治理以及技術(shù)上實現(xiàn)對齊。另外由于人工智能使用門檻的降低，基于用戶數(shù)量的快速增長，應(yīng)對互聯(lián)網(wǎng)企業(yè)施加更高的個人隱私保護(hù)標(biāo)準(zhǔn)，對人工智能的應(yīng)用倫理也需要加強(qiáng)，同時對國外開源模型的滲透做好防范。政府、企業(yè)、用戶間要對齊思路，以數(shù)據(jù)使用的必要性作為數(shù)據(jù)安全發(fā)展和開發(fā)的核心，做到支持技術(shù)發(fā)展與數(shù)據(jù)安全并進(jìn)。

會議認(rèn)為，我國在數(shù)據(jù)安全治理領(lǐng)域發(fā)展迅速，在制度、規(guī)范、產(chǎn)業(yè)等方面均有良好進(jìn)展，但需注意到其面對AI時代新的數(shù)據(jù)保護(hù)需求依然存在不足。AI時代下的數(shù)據(jù)安全保護(hù)要明確好新形勢、新特征，并在與現(xiàn)有治理體系做好銜接的基礎(chǔ)上開展保護(hù)工作。專家建議，政府應(yīng)加快推動該領(lǐng)域下標(biāo)準(zhǔn)與政策的制定工作，持續(xù)推動各項治理規(guī)范的執(zhí)行落地；同時，鼓勵發(fā)展各項數(shù)據(jù)安全保護(hù)技術(shù)，落實基礎(chǔ)安全技術(shù)的使用；未來，要嘗試構(gòu)建多方共治的治理機(jī)制，充分發(fā)揮社會各方的積極作用，實現(xiàn)AI產(chǎn)業(yè)的健康持續(xù)發(fā)展。