鄔賀銓 中國(guó)工程院院士、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)主任

生成式人工智能是引領(lǐng)新一代科技革命和產(chǎn)業(yè)革命的核心驅(qū)動(dòng)力，是加快培育和發(fā)展新質(zhì)生產(chǎn)力的重要引擎，為經(jīng)濟(jì)高質(zhì)量發(fā)展注入新動(dòng)能。與此同時(shí)，人工智能技術(shù)也帶來了各類難以預(yù)知的風(fēng)險(xiǎn)和挑戰(zhàn)。在2024年國(guó)家網(wǎng)絡(luò)安全宣傳周舉辦期間，“大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室”宣告成立，將進(jìn)一步牽線搭橋，搭建粵港澳三地網(wǎng)絡(luò)安全產(chǎn)業(yè)的交流與合作平臺(tái)，推動(dòng)“政產(chǎn)學(xué)研用”深度融合。

文/廣州日?qǐng)?bào)全媒體記者張姝泓

圖/廣州日?qǐng)?bào)全媒體記者莫偉濃、楊耀燁、吳子良

9月11日上午，在2024年國(guó)家網(wǎng)絡(luò)安全宣傳周“粵港澳大灣區(qū)安全技術(shù)創(chuàng)新”座談會(huì)上，由廣東省委網(wǎng)信辦和國(guó)家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心聯(lián)合發(fā)起的大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室宣布成立。

該實(shí)驗(yàn)室由廣東省委網(wǎng)信辦和國(guó)家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心聯(lián)合發(fā)起，華為公司、騰訊公司、中山大學(xué)、廣州市委網(wǎng)信辦、深圳市委網(wǎng)信辦、東莞市委網(wǎng)信辦以及深圳河套發(fā)展署參與聯(lián)合建設(shè)。

會(huì)上，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心黨委書記、主任（兼廣東省委網(wǎng)信辦副主任）應(yīng)鴻暉介紹，聯(lián)合實(shí)驗(yàn)室將建設(shè)六方面的能力：建設(shè)一套本地化生成式人工智能安全測(cè)評(píng)系統(tǒng)；形成一套屬地生成式人工智能安全發(fā)展標(biāo)準(zhǔn)；訓(xùn)練一套大模型安全智能評(píng)測(cè)引擎；運(yùn)行一套“平臺(tái)自動(dòng)化+專家團(tuán)隊(duì)復(fù)核”運(yùn)營(yíng)方式；研究一套“安全可信+量化評(píng)級(jí)”的服務(wù)行業(yè)框架；探索一套“共建共享+雙向賦能”的支撐監(jiān)管新模式。

“以人為本，智能向善”

據(jù)介紹，聯(lián)合實(shí)驗(yàn)室由國(guó)家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心牽頭實(shí)體化運(yùn)行，屬地網(wǎng)信等相關(guān)部門大力支持，充分發(fā)揮華為公司、騰訊公司在人工智能方面的核心引擎和輻射帶頭作用以及中山大學(xué)在安全可信、量化評(píng)級(jí)方面的深厚科研積累，由各方投入優(yōu)勢(shì)資源，選派骨干，組成專家團(tuán)隊(duì)，共同建設(shè)廣東省生成式人工智能安全發(fā)展評(píng)估體系，加快制定廣東省生成式人工智能安全發(fā)展標(biāo)準(zhǔn)，共同研究形成可量化的服務(wù)行業(yè)評(píng)級(jí)框架，共同促進(jìn)人工智能“以人為本，智能向善”。

座談會(huì)上，“粵網(wǎng)安公益行”啟動(dòng)?；顒?dòng)采取線上線下相結(jié)合的形式，為相關(guān)政府單位、企事業(yè)單位乃至全社會(huì)提供網(wǎng)絡(luò)安全評(píng)估、培訓(xùn)等全方位支持與幫助。第一批公益服務(wù)項(xiàng)目包括網(wǎng)絡(luò)安全與數(shù)據(jù)保護(hù)專題培訓(xùn)、網(wǎng)絡(luò)安全成熟度測(cè)評(píng)、工業(yè)企業(yè)網(wǎng)絡(luò)安全評(píng)估，以及勒索風(fēng)險(xiǎn)排查、威脅檢測(cè)及響應(yīng)、7×24小時(shí)安全托管等服務(wù)。內(nèi)地企業(yè)可通過“線上+線下”的方式參與，港澳單位可以線上參與?；顒?dòng)方將為企業(yè)提供量身定制的安全服務(wù)方案，攜手社會(huì)各界共筑網(wǎng)絡(luò)安全屏障。

六大技術(shù)創(chuàng)新 構(gòu)筑網(wǎng)安防線

1.數(shù)據(jù)跨境流動(dòng)安全治理服務(wù)平臺(tái)

2.深信服大模型賦能的下一代流量檢測(cè)響應(yīng)

3.競(jìng)遠(yuǎn)安全工業(yè)企業(yè)智能化安全服務(wù)平臺(tái)

4.百度大模型內(nèi)容安全平臺(tái)

5.超融合安全服務(wù)平臺(tái)

6.多維應(yīng)用安全防護(hù)系統(tǒng)

數(shù)字時(shí)代，網(wǎng)絡(luò)安全問題日益凸顯。粵港澳大灣區(qū)在數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展上走在前列，也肩負(fù)著構(gòu)建網(wǎng)絡(luò)安全新防線的使命。

大會(huì)現(xiàn)場(chǎng)集中發(fā)布了六大網(wǎng)絡(luò)安全技術(shù)創(chuàng)新成果，包括數(shù)據(jù)跨境流動(dòng)安全治理服務(wù)平臺(tái)、深信服大模型賦能的下一代流量檢測(cè)響應(yīng)等，全面展現(xiàn)大灣區(qū)網(wǎng)安技術(shù)創(chuàng)新實(shí)力。

其中，由國(guó)家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心探索建設(shè)的“數(shù)據(jù)跨境流動(dòng)安全治理服務(wù)平臺(tái)”，為促進(jìn)大灣區(qū)企業(yè)安全、便利、合規(guī)開展數(shù)據(jù)出境業(yè)務(wù)，提供了智能的合規(guī)指引、專業(yè)的保障措施和一站式的服務(wù)解決方案，為數(shù)據(jù)跨境流動(dòng)安全治理貢獻(xiàn)“廣東實(shí)踐”。

深信服科技發(fā)布重塑流量檢測(cè)響應(yīng)新標(biāo)準(zhǔn)的大模型賦能的下一代流量檢測(cè)響應(yīng)產(chǎn)品，基于大模型技術(shù)實(shí)現(xiàn)虛擬“安全專家”能力，像人一樣直接理解攻擊，極大提升攻擊檢測(cè)精準(zhǔn)率，改善過去“高檢出必然高誤報(bào)”的痛點(diǎn)；“競(jìng)遠(yuǎn)安全工業(yè)企業(yè)智能化安全服務(wù)平臺(tái)”使用AI驅(qū)動(dòng)的云邊協(xié)同技術(shù)，面向工業(yè)企業(yè)提供安全檢測(cè)評(píng)估、安全運(yùn)維、供應(yīng)鏈安全管理等智能化安全服務(wù)，此次發(fā)布為全國(guó)首發(fā)。

眾多創(chuàng)新成果的面世，將助力大灣區(qū)乃至全國(guó)提升網(wǎng)絡(luò)安全防護(hù)能力，為數(shù)字經(jīng)濟(jì)發(fā)展提供更有力的安全保障。

“大咖”論道

服務(wù)“數(shù)據(jù)跨境流動(dòng)”

南沙可建設(shè)“數(shù)據(jù)保護(hù)區(qū)”

圍繞網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能和工業(yè)安全等領(lǐng)域，座談會(huì)還邀請(qǐng)中國(guó)工程院院士、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)主任鄔賀銓，香港網(wǎng)絡(luò)安全事故協(xié)調(diào)中心主管李子圖、澳門特別行政區(qū)政府司法警察局電腦法證處處長(zhǎng)鐘錦良等專家，以及來自華為、騰訊、百度等公司的網(wǎng)絡(luò)安全行業(yè)領(lǐng)軍人物，共同探討大灣區(qū)網(wǎng)絡(luò)安全前沿技術(shù)與創(chuàng)新發(fā)展。

其中，鄔賀銓以“AI時(shí)代的數(shù)據(jù)安全”為題作主題報(bào)告。他提出，人工智能自身有不安全性和“幻覺”，更可能被濫用，因此要用各種辦法提高AI的可行性，并從數(shù)字水印、數(shù)據(jù)采集、數(shù)據(jù)保護(hù)等維度展開分析。

在數(shù)據(jù)采集方面，鄔賀銓指出，目前中國(guó)基本語料數(shù)據(jù)仍不夠，現(xiàn)在很多人工智能的訓(xùn)練，當(dāng)原始數(shù)據(jù)不夠時(shí)，會(huì)應(yīng)用AI生成的數(shù)據(jù)。他以自動(dòng)駕駛舉例稱，自動(dòng)駕駛需要上百億公里的路測(cè)數(shù)據(jù)，相當(dāng)于百輛汽車連續(xù)跑100年。出于成本考慮，業(yè)內(nèi)一般會(huì)使用人工智能的方法，在基底訓(xùn)練數(shù)據(jù)上基于大模型自動(dòng)進(jìn)行長(zhǎng)尾場(chǎng)景的自我訓(xùn)練?！巴耆緼I生成的數(shù)據(jù)會(huì)逐漸變形、出錯(cuò)，乃至產(chǎn)生‘幻覺’。反復(fù)迭代使用AI生成的數(shù)據(jù)，相當(dāng)于‘近親繁殖’，最后就失去了效果，所以我們要重視數(shù)據(jù)的原生性?！彼f。

在人工智能時(shí)代，面對(duì)AI換臉等帶來的風(fēng)險(xiǎn)，數(shù)字水印也重新被提起。鄔賀銓表示，圖像加上數(shù)字水印后，一般人看不出來，但是可以用特定的辦法提取水印。數(shù)字水印可以實(shí)現(xiàn)版權(quán)保護(hù)，識(shí)別AI換臉、換身等，實(shí)現(xiàn)深度防偽。

在2024年國(guó)家網(wǎng)絡(luò)安全宣傳周期間，“數(shù)據(jù)跨境流動(dòng)”成為關(guān)注焦點(diǎn)。鄔賀銓在發(fā)言中特別建議設(shè)立“數(shù)據(jù)保護(hù)區(qū)”。此外，在推動(dòng)數(shù)據(jù)跨境流動(dòng)的過程中，個(gè)人敏感信息要進(jìn)行申報(bào)，并且采取脫敏技術(shù)。

為何要建立“數(shù)據(jù)保護(hù)區(qū)”？鄔賀銓解釋道，按照數(shù)據(jù)跨境流動(dòng)的規(guī)律，即便在境內(nèi)加工境外數(shù)據(jù)，也不允許插入境內(nèi)的個(gè)人信息和重要數(shù)據(jù)；另一方面，境外數(shù)據(jù)放到境內(nèi)來加工，外方也擔(dān)心其數(shù)據(jù)在加工過程中被泄露。

“‘?dāng)?shù)據(jù)保護(hù)區(qū)’和境內(nèi)公眾是物理隔離的，有境內(nèi)、境外物理關(guān)防，像一般的貨物保稅區(qū)一樣。雖然這個(gè)數(shù)據(jù)保護(hù)區(qū)相當(dāng)于境外數(shù)據(jù)的一個(gè)飛地，但是仍然受到省級(jí)網(wǎng)信部門的監(jiān)管?！编w賀銓說，當(dāng)前設(shè)立“數(shù)據(jù)保護(hù)區(qū)”的條件已經(jīng)較為成熟——中國(guó)通信基礎(chǔ)設(shè)施先進(jìn)，寬帶滲透率高，IT人才勇于攻關(guān)。

“南沙就很適合作為承接境外數(shù)據(jù)的清洗標(biāo)注基地?！彼f。

(編輯： 廣州網(wǎng) 龍煜)