中新網(wǎng)北京9月29日電 (陶思閱)今年9月，第22屆國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇活動中，國內(nèi)首次針對AI大模型的實(shí)網(wǎng)眾測檢驗(yàn)結(jié)果發(fā)布。測試?yán)塾?jì)發(fā)現(xiàn)281個(gè)安全漏洞，其中大模型特有漏洞占比超60%，涵蓋提示注入、信息泄露等典型風(fēng)險(xiǎn)。
同時(shí)，攻擊者研究AI的學(xué)習(xí)偏好，有針對性地“投喂”信息，更有甚者，有組織地進(jìn)行“數(shù)據(jù)投毒”，即通過偽造專家身份、虛構(gòu)研究報(bào)告等方式，向AI輸入虛假信息，以達(dá)到操縱AI輸出結(jié)果的目的。
同盾科技安全研究院院長董紀(jì)偉認(rèn)為，隨著生成式AI技術(shù)的廣泛運(yùn)用，未來的攻防戰(zhàn)將邁入“以技術(shù)對抗技術(shù)，以AI對抗AI”的階段。
面對挑戰(zhàn)，監(jiān)管體系率先升級。9月15日，《人工智能安全治理框架》2.0版在國家網(wǎng)絡(luò)安全宣傳周發(fā)布。
AI安全行業(yè)也正構(gòu)建“AI對抗AI”的技術(shù)防線。9月，華為發(fā)布全新升級的星河AI網(wǎng)絡(luò)安全解決方案，據(jù)介紹，該方案威脅自動化處置率達(dá)99%，未知威脅檢出率達(dá)95%。
螞蟻消金通過多模態(tài)感知與大小模型協(xié)同，系統(tǒng)可精準(zhǔn)識別假章假證、合成語音等造假行為。螞蟻消金首席信息官劉義介紹，目前，虛假證件識別準(zhǔn)確率達(dá)98%，語音偽造檢測覆蓋50余種合成方式，2024年以來，螞蟻消金已聯(lián)合司法機(jī)關(guān)查處12家非法金融中介，涉案人員超過200人，實(shí)現(xiàn)了技術(shù)治理與司法聯(lián)動的有效結(jié)合。
近日，綠盟科技發(fā)布新的大模型安全評估系統(tǒng)，實(shí)現(xiàn)對140余款主流模型的自動化深度掃描，精準(zhǔn)發(fā)現(xiàn)內(nèi)容安全、對抗攻擊、數(shù)據(jù)泄露及組件漏洞等風(fēng)險(xiǎn)，并能夠出具符合國家《生成式人工智能服務(wù)安全基本要求》的評估報(bào)告。
今年9月發(fā)布的《AI時(shí)代網(wǎng)絡(luò)安全產(chǎn)業(yè)人才發(fā)展報(bào)告(2025)》顯示，2025年全球網(wǎng)絡(luò)安全人才缺口升至480萬，同比增長19%；其中美國需求51.4萬個(gè)在線崗位，實(shí)際填補(bǔ)率不足三分之二。
中國方面，截至2024年底全國持證在崗人員約32萬，已有792所普通高校開設(shè)網(wǎng)絡(luò)安全專業(yè)，占高校總數(shù)27.1%；其中65.9%已在2025年新增AI安全課程，較去年躍升15個(gè)百分點(diǎn)。(完)