5月18日，2024第十二屆西湖論劍·數(shù)字安全大會(huì)（以下簡(jiǎn)稱“數(shù)字安全大會(huì)”）在杭州舉辦。數(shù)字安全大會(huì)至今已舉辦12年，也伴隨著杭州城市數(shù)字化發(fā)展和數(shù)字技術(shù)變革迭代更新。
杭州把數(shù)字經(jīng)濟(jì)作為鮮明標(biāo)識(shí)，也正在實(shí)施數(shù)字經(jīng)濟(jì)創(chuàng)新提質(zhì)“一號(hào)發(fā)展工程”，爭(zhēng)創(chuàng)國(guó)家人工智能創(chuàng)新高地。網(wǎng)絡(luò)安全、數(shù)據(jù)安全是城市發(fā)展不可或缺的重要保障，如何在創(chuàng)新與安全之間尋求平衡？
在今年的數(shù)字安全大會(huì)上，21世紀(jì)經(jīng)濟(jì)報(bào)道記者觀察到，人工智能成為重要的討論話題及背景，數(shù)據(jù)安全、數(shù)據(jù)要素發(fā)展的技術(shù)、社會(huì)實(shí)踐也引發(fā)新思考。
在當(dāng)下的數(shù)字化時(shí)代，人工智能的迅猛發(fā)展不僅為各行各業(yè)帶來了巨大的創(chuàng)新與便利，也引發(fā)了一系列前所未有的安全挑戰(zhàn)。隨著AI技術(shù)的廣泛應(yīng)用，數(shù)據(jù)泄露、深度偽造等新型安全風(fēng)險(xiǎn)日益凸顯。
中國(guó)工程院院士鄔江興在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)表示，目前學(xué)界對(duì)人工智能的數(shù)學(xué)、物理性質(zhì)仍然不能作出解釋，這是它基本原理上的缺陷，因此人工智能一定會(huì)存在風(fēng)險(xiǎn)，最好的方式是用多個(gè)系統(tǒng)進(jìn)行交叉驗(yàn)證，“例如國(guó)內(nèi)現(xiàn)在‘百模大戰(zhàn)’，使用者可以用多個(gè)大模型進(jìn)行交叉檢驗(yàn)。”
在鄔江興的演講中，他也提出傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性日益凸顯，急需數(shù)字生態(tài)系統(tǒng)底層驅(qū)動(dòng)范式轉(zhuǎn)型，以內(nèi)生安全賦能的網(wǎng)絡(luò)彈性設(shè)計(jì)，能從根本上跳出經(jīng)典網(wǎng)絡(luò)安全理論與方法無法應(yīng)對(duì)的不確定安全問題威脅。
應(yīng)對(duì)數(shù)據(jù)安全不確定性
數(shù)據(jù)安全與網(wǎng)絡(luò)安全密不可分。隨著人工智能技術(shù)的快速發(fā)展，尤其是大模型和生成式AI的興起，數(shù)據(jù)安全問題日益凸顯。同時(shí)，人工智能的廣泛應(yīng)用也帶來了新的安全挑戰(zhàn)，如思維漏洞的利用和惡意攻擊等。
當(dāng)下的網(wǎng)絡(luò)安全威脅正在從信息擴(kuò)大到數(shù)據(jù)加物理域、認(rèn)知域。在數(shù)字經(jīng)濟(jì)時(shí)代，社會(huì)的數(shù)字化轉(zhuǎn)型也面臨著極大的系統(tǒng)性風(fēng)險(xiǎn)。
鄔江興認(rèn)為當(dāng)下網(wǎng)絡(luò)安全問題是多重的，“我將它稱之為廣義的功能安全問題，特點(diǎn)是物理失效的隨機(jī)性、軟件失效的不確定性、網(wǎng)絡(luò)攻擊的人為性以及受制于執(zhí)行環(huán)境的缺位，包括AI的內(nèi)生安全個(gè)性問題，出現(xiàn)了交織問題。”
中國(guó)工程院院士吳世忠在演講中也表示，在人工智能時(shí)代，安全問題呈現(xiàn)出了前所未有的復(fù)雜性。它不僅涵蓋了傳統(tǒng)的Security安全，即信息安全，還包含了Safety安全，即系統(tǒng)運(yùn)行的穩(wěn)定性和可靠性以及倫理安全，即技術(shù)應(yīng)用必須符合道德倫理標(biāo)準(zhǔn)，這三者交織融合，形成了全新的安全圖景。
2022年以來，歐美國(guó)家較早地出臺(tái)多項(xiàng)戰(zhàn)略、法案和法規(guī)，推動(dòng)網(wǎng)絡(luò)安全、數(shù)據(jù)安全責(zé)任“左移”，也就是將網(wǎng)絡(luò)安全問題前置處理，認(rèn)為數(shù)字產(chǎn)品的制造者、數(shù)字應(yīng)用的開發(fā)者應(yīng)當(dāng)承擔(dān)更大的安全責(zé)任。
例如，2023年12月，歐盟就《網(wǎng)絡(luò)彈性法案》在技術(shù)和政治層面達(dá)成一致，該法案一旦生效，屆時(shí)進(jìn)入歐盟市場(chǎng)的數(shù)字產(chǎn)品須確認(rèn)滿足歐盟網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。
隨著中國(guó)企業(yè)的全球化發(fā)展，跨境數(shù)據(jù)流動(dòng)以及數(shù)字產(chǎn)品的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)問題成為必答題。
鄔江興認(rèn)為，人類社會(huì)正在進(jìn)入以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)時(shí)代，需要建立一種可防御且富有彈性和韌性的數(shù)字生態(tài)系統(tǒng)，使其更容易形成內(nèi)在防御能力，能讓攻擊方付出比防御方更高的代價(jià)，實(shí)現(xiàn)防御優(yōu)勢(shì)的轉(zhuǎn)變，從而能始終挫敗數(shù)字生態(tài)系統(tǒng)面臨的種種威脅，筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。
具體來說，需將數(shù)字產(chǎn)品安全置于產(chǎn)品全生命周期，從一開始就考慮產(chǎn)品的安全，要安全地設(shè)計(jì)，“從附加安全到設(shè)計(jì)安全，將網(wǎng)絡(luò)安全融入到數(shù)字產(chǎn)品的設(shè)計(jì)與制造中。”鄔江興說。
吳世忠也表示，構(gòu)建一個(gè)安全、堅(jiān)韌、可信的人工智能發(fā)展生態(tài)至關(guān)重要，“這要求我們必須在推動(dòng)技術(shù)發(fā)展的同時(shí)，充分考慮到安全保障，實(shí)現(xiàn)發(fā)展與安全的統(tǒng)籌兼顧。”
教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、杭州市人工智能協(xié)會(huì)副理事長(zhǎng) 、俄羅斯國(guó)家工程院外籍院士胡瑞敏在接受記者采訪時(shí)表示，在平衡人工智能與安全方面，數(shù)字經(jīng)濟(jì)發(fā)展離不開數(shù)據(jù)要素的安全流通，“現(xiàn)在新的隱私保護(hù)技術(shù)發(fā)展得非?？?，如何在新的技術(shù)支持下在數(shù)據(jù)要素流通中構(gòu)建一套安全運(yùn)行的機(jī)制，這個(gè)非常重要。”
浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院副教授金小剛在接受記者提問時(shí)表示，人工智能最大的特點(diǎn)是交互能力的提升，把原來積累的一些數(shù)據(jù)和能力通過交互釋放出來，但技術(shù)在使用之前并不能預(yù)知哪些壞的因素會(huì)被釋放出來，“首先技術(shù)的設(shè)計(jì)者要有良知，其次技術(shù)運(yùn)用過程中要時(shí)刻警惕，政府、社會(huì)要有一些良好的機(jī)制來保證糾偏。”
底線之上強(qiáng)化創(chuàng)新思維
不少與會(huì)專家在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)都提出，創(chuàng)新和監(jiān)管要齊頭并進(jìn)，數(shù)字經(jīng)濟(jì)發(fā)展在安全基礎(chǔ)上一定要?jiǎng)?chuàng)新，尤其要抓住人工智能發(fā)展機(jī)遇。
吳世忠認(rèn)為，從數(shù)據(jù)孕育新動(dòng)能的意義來講，由算力、模型、數(shù)據(jù)、應(yīng)用共同成就的人工智能是真正的新質(zhì)生產(chǎn)力。
國(guó)家行政學(xué)院電子政務(wù)專家委員會(huì)原副主任、全國(guó)數(shù)字經(jīng)濟(jì)聯(lián)盟學(xué)術(shù)委員汪玉凱在主題演講中也提出，數(shù)字經(jīng)濟(jì)在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義。數(shù)字經(jīng)濟(jì)有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個(gè)領(lǐng)域。
汪玉凱認(rèn)為，新質(zhì)生產(chǎn)力發(fā)展的重要目標(biāo)就是要擺脫傳統(tǒng)的經(jīng)濟(jì)增長(zhǎng)方式，不是淘汰傳統(tǒng)的生產(chǎn)方式，而是要使它高端化、智能化、綠色化，“全球的數(shù)智化浪潮、新質(zhì)生產(chǎn)力的發(fā)展目標(biāo)以及高質(zhì)量發(fā)展的戰(zhàn)略定位，這三大因素將是中國(guó)數(shù)字經(jīng)濟(jì)實(shí)現(xiàn)新發(fā)展的黃金期。”
針對(duì)網(wǎng)絡(luò)安全和數(shù)據(jù)安全問題，汪玉凱提出一些解決思路，一是完善數(shù)據(jù)安全的相關(guān)法律，把數(shù)據(jù)安全全部納入法制框架下，二是提升核心數(shù)字技術(shù)能力和網(wǎng)絡(luò)安全監(jiān)管能力，為數(shù)字經(jīng)濟(jì)保駕護(hù)航，三是特別要關(guān)注跨境數(shù)據(jù)流通交易中的數(shù)據(jù)安全，包括個(gè)人數(shù)據(jù)大量被泄露。
“尤其還應(yīng)特別關(guān)注數(shù)據(jù)和信息保護(hù)，才能讓數(shù)字經(jīng)濟(jì)真正騰飛成為推動(dòng)社會(huì)進(jìn)步的新質(zhì)生產(chǎn)力。”汪玉凱說。
此外，不少參會(huì)嘉賓還提及數(shù)字經(jīng)濟(jì)發(fā)展中市場(chǎng)的作用。數(shù)字經(jīng)濟(jì)發(fā)展最主要的主體是企業(yè)，而民營(yíng)企業(yè)在數(shù)字經(jīng)濟(jì)發(fā)展中又扮演關(guān)鍵角色。
“我認(rèn)為未來在數(shù)字經(jīng)濟(jì)發(fā)展中仍然要打好民營(yíng)經(jīng)濟(jì)這張牌，國(guó)有、民營(yíng)企業(yè)一起上，要給民營(yíng)企業(yè)創(chuàng)造更多的空間，提供更多助力政策。”汪玉凱說。
安恒信息董事長(zhǎng)范淵在演講中明確表示，當(dāng)供得出、流得動(dòng)、用得好的數(shù)據(jù)，遇上人工智能大模型與智能體，傳統(tǒng)安全天花板已經(jīng)消失，安全底座和工作協(xié)同關(guān)系也在被重塑。
“我們也在思考人工智能安全大模型究竟給這個(gè)行業(yè)帶來什么？整個(gè)跨代的理解能力、邏輯推演能力、泛化能力正在對(duì)這個(gè)行業(yè)帶來巨變。”范淵表示。
去年8月，財(cái)政部對(duì)外發(fā)布《企業(yè)數(shù)據(jù)資源相關(guān)會(huì)計(jì)處理暫行規(guī)定》，明確數(shù)據(jù)資源的確認(rèn)范圍和會(huì)計(jì)處理適用準(zhǔn)則等，將于2024年1月1日起施行。
在數(shù)字安全大會(huì)上，《企業(yè)數(shù)據(jù)資源入表實(shí)踐白皮書》正式發(fā)布，該白皮書由杭州安恒信息技術(shù)股份有限公司、杭州數(shù)據(jù)交易所有限公司、中國(guó)軟件評(píng)測(cè)中心(工業(yè)和信息化部軟件與集成電路促進(jìn)中心)等單位參與編制而成。
安恒信息CTO劉博在接受記者采訪時(shí)表示，數(shù)據(jù)資產(chǎn)入表是一個(gè)開始，未來將為數(shù)據(jù)要素流通服務(wù)，也將進(jìn)一步開展數(shù)據(jù)交易，用數(shù)據(jù)賦能醫(yī)療、教育、商業(yè)等各行各業(yè)，也就是新質(zhì)生產(chǎn)力。
在劉博看來，當(dāng)前數(shù)據(jù)資源盤點(diǎn)階段倒逼企業(yè)梳理自身數(shù)據(jù)管理的盲區(qū)，把數(shù)據(jù)安全問題做好，在數(shù)據(jù)要素流動(dòng)方面企業(yè)也需要把安全作為一個(gè)前提，用好隱私計(jì)算、加密技術(shù)，“在數(shù)據(jù)資產(chǎn)入表過程中，數(shù)據(jù)安全不再只是保護(hù)的角色，而是把價(jià)值釋放到最大。”