IT之家 11 月 11 日音訊,在 2025 年國際互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上,數(shù)據(jù)安全成為被重視的焦點(diǎn)問題。據(jù)央視新聞報(bào)導(dǎo),跟著大模型在各行業(yè)深度運(yùn)用,其安全危險(xiǎn)呈現(xiàn)出復(fù)合化特征。看似簡略的圖片、文字信息等內(nèi)容經(jīng)過 AI 處理,
網(wǎng)絡(luò)有經(jīng)歷的人指出,AI 大模型安全包括數(shù)據(jù)、基礎(chǔ)設(shè)施與模型自身三大層面,其間個(gè)人運(yùn)用中的數(shù)據(jù)安全危險(xiǎn)尤為杰出。有時(shí)僅僅上傳了一張合影相片,想經(jīng)過 AI 來處理一下,就十分有或許露出個(gè)人隱私信息。相片上傳后,人像辨認(rèn)技能會(huì)把人物身份提取出來,還或許被不法分子進(jìn)一步使用。
發(fā)布含有個(gè)人隱私信息的火車票、飛機(jī)票、登機(jī)牌、車牌等票證,或許會(huì)被還有圖謀的陌生人獲取,因而導(dǎo)致個(gè)人隱私走漏。 身份證、護(hù)照、駕駛證、結(jié)婚證等證件中,都包括重要的個(gè)人隱私,不要隨意在網(wǎng)上發(fā)布。 最好仍是不要發(fā)自己的定位信息,這一些信息簡單露出實(shí)在的個(gè)人住址,有或許帶來不必要的費(fèi)事和危險(xiǎn)。 防止發(fā)布老人和孩子的相片及名字,以防不法分子使用這一些信息進(jìn)行違法活動(dòng),主張以分組的方式共享給親人看。
AI 大模型盜取個(gè)人隱私的才能已越來越強(qiáng),除了上述說到的個(gè)人無意走漏隱私外,IT之家在此前的報(bào)導(dǎo)中曾說到 Trail of Bits 研究人員開發(fā)出了一種新式 AI 進(jìn)犯方法,將歹意提示詞隱藏在高分辨率圖片中,并在 AI 體系主動(dòng)降采樣處理后閃現(xiàn),再被大言語模型當(dāng)作指令履行,最終盜取用戶的隱私數(shù)據(jù)。