中新網(wǎng)烏鎮(zhèn)11月22日電(奚金燕 藍(lán)伊旎)人工智能生成的內(nèi)容如何“防偽”？網(wǎng)絡(luò)空間國際規(guī)則怎么制定？數(shù)據(jù)安全的邊界在哪里？隨著人工智能的高速發(fā)展以及在各領(lǐng)域的廣泛應(yīng)用，加強(qiáng)人工智能在開發(fā)和應(yīng)用層面的安全治理逐漸成為社會共識，聚焦的議題也愈加細(xì)分、深入。

11月19日至22日，2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會在烏鎮(zhèn)舉辦，人工智能成為本次大會核心議題，AI的倫理風(fēng)險、安全治理等問題成為討論的焦點(diǎn)。

11月19日至22日，2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會在烏鎮(zhèn)舉辦。　主辦方 供圖

近年來，AI技術(shù)的快速發(fā)展帶來了巨大的經(jīng)濟(jì)和社會效益，也引發(fā)了眾多安全和治理方面的挑戰(zhàn)。

在本屆峰會的網(wǎng)絡(luò)安全技術(shù)發(fā)展與國際合作論壇上，奇安信集團(tuán)董事長齊向東指出，AI技術(shù)正面臨著“黑箱化”導(dǎo)致內(nèi)容生成良莠不齊、“黑產(chǎn)化”導(dǎo)致深度偽造泛濫成災(zāi)和“武器化”導(dǎo)致黑客攻擊愈演愈烈三重安全危機(jī)，亟須通過多維度體系化防護(hù)、深度偽造技術(shù)防治以及安全大模型的創(chuàng)新來加強(qiáng)治理。

“有了高效的安全治理，AI才有未來。”他認(rèn)為，建立AI安全大模型是應(yīng)對未來挑戰(zhàn)的關(guān)鍵策略。

以奇安信為例，用其部署自研的QAX-GPT安全大模型賦能天眼、天擎、椒圖等安全產(chǎn)品，再依托AISOC進(jìn)行告警全局關(guān)聯(lián)，可以讓網(wǎng)絡(luò)安全、終端安全、服務(wù)器安全的防御變得更加主動。

再如，安恒信息牽頭研發(fā)的恒腦·安全垂域大模型在杭州亞運(yùn)會賽事期間輔助處理安全事件287起，降低了ITCC57%的工作量。以AI對AI，以AI管AI，人工智能切實(shí)給網(wǎng)絡(luò)安保帶來了質(zhì)的變化。

同時，隨著人工智能深入到生活的各個方面，如何用人文關(guān)懷搭建數(shù)字橋梁、實(shí)現(xiàn)技術(shù)發(fā)展與社會責(zé)任間的平衡成為新的課題。

在量子之歌董事長李鵬看來，隨著數(shù)字資源供給日益豐富、數(shù)字發(fā)展環(huán)境逐漸優(yōu)化，老年人對知識與精神生活的需求也更加迫切，銀發(fā)教育普惠及資源共享需要在供給側(cè)發(fā)力。

他呼吁，人工智能的發(fā)展應(yīng)當(dāng)為老年教育等領(lǐng)域提供更多的數(shù)字化解決方案。比如，通過“線上+線下”的融合創(chuàng)新，一起構(gòu)建“15分鐘學(xué)習(xí)圈”，實(shí)現(xiàn)“老年大學(xué)辦到家門口”，打通“老年教育最后一百米”，以數(shù)字創(chuàng)新增強(qiáng)老年教育服務(wù)的“可及性”和“均衡性”。

那么，應(yīng)當(dāng)如何加強(qiáng)安全治理和社會引導(dǎo)，助力人工智能可持續(xù)發(fā)展？

據(jù)了解，本屆峰會圍繞人才培養(yǎng)、數(shù)據(jù)安全等方面，打造了多個“亮點(diǎn)”、實(shí)現(xiàn)了多個“首次”。

峰會期間，世界互聯(lián)網(wǎng)大會智庫合作計(jì)劃啟動。該計(jì)劃由全球約60家智庫聯(lián)合發(fā)起，涉及互聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)、通信、云計(jì)算等專業(yè)方向和數(shù)字經(jīng)濟(jì)、網(wǎng)絡(luò)文化、網(wǎng)絡(luò)空間國際治理、網(wǎng)絡(luò)安全等研究領(lǐng)域，將為全球互聯(lián)網(wǎng)領(lǐng)域?qū)W術(shù)交流和思想對話機(jī)制化、常態(tài)化搭建合作平臺，推動全球智庫圍繞互聯(lián)網(wǎng)相關(guān)議題開展研究、交流與合作。

功以才成，業(yè)由才廣。互聯(lián)網(wǎng)迅猛發(fā)展，亟需規(guī)模宏大、結(jié)構(gòu)合理、素質(zhì)優(yōu)良的創(chuàng)新人才隊(duì)伍。

為了應(yīng)對這一挑戰(zhàn)，世界互聯(lián)網(wǎng)大會數(shù)字研修院正式啟動，旨在聚焦人工智能、數(shù)據(jù)、網(wǎng)絡(luò)安全、跨境電商等國際社會廣泛關(guān)注的熱點(diǎn)領(lǐng)域，通過開展國際化綜合性、專題性培訓(xùn)和沙龍活動，為全球各國，特別是發(fā)展中國家培養(yǎng)具有廣闊國際視野、前沿?cái)?shù)字化思維、先進(jìn)數(shù)字化技能的專業(yè)人才。

作為研修院首批合作單位，安恒信息相關(guān)負(fù)責(zé)人表示，將以此為契機(jī)，在網(wǎng)絡(luò)安全人才培養(yǎng)領(lǐng)域走穩(wěn)走遠(yuǎn)，走深走實(shí)，助力“數(shù)字研修院”這一全新引擎，以更加創(chuàng)新、開放、普惠的方式，搭建全球能力建設(shè)平臺，維護(hù)安全的新疆域、文明互鑒的新平臺。

此外，世界互聯(lián)網(wǎng)大會還成立了首個專業(yè)性、常態(tài)化分支機(jī)構(gòu)——人工智能專業(yè)委員會。第一屆專委會成員共170余人，匯集了來自人工智能領(lǐng)域國際組織、知名智庫、科研院所、專業(yè)協(xié)會及產(chǎn)業(yè)界的權(quán)威專家和專業(yè)人才，設(shè)立了標(biāo)準(zhǔn)推進(jìn)計(jì)劃、安全與治理推進(jìn)計(jì)劃和產(chǎn)業(yè)推進(jìn)計(jì)劃。

當(dāng)前正處于全球人工智能治理的重要時期，專委會將秉持搭建國際交流合作平臺、推動發(fā)展與治理協(xié)同、促進(jìn)全球共享人工智能發(fā)展成果的原則，通過開展專題研討、成果分享、倡議發(fā)布等活動，不斷凝聚國際共識，促進(jìn)人工智能包容普惠、可持續(xù)發(fā)展。(完)

關(guān)鍵詞：