在電視劇《獵罪圖鑒》中，有一集講述了犯罪分子利用AI換臉技術(shù)制作了一條視頻發(fā)給受害者。電視劇中的劇情并不夸張，近年來因AI技術(shù)及其應(yīng)用的普及化和泛在化，圖像、視頻、音頻的深度合成、深度偽造現(xiàn)象凸顯，已然成為了一種新型的違法手段。當(dāng)前社會已經(jīng)被打上“網(wǎng)絡(luò)時(shí)代”“信息時(shí)代”“數(shù)字時(shí)代”“大數(shù)據(jù)時(shí)代”“人工智能時(shí)代”等一系列技術(shù)化的新標(biāo)簽，技術(shù)除了提升社會效益之外，還帶來了一些風(fēng)險(xiǎn)，音頻、視頻等合成技術(shù)濫用，對人臉、聲紋、指紋等個(gè)人敏感信息保護(hù)形成挑戰(zhàn)。AI換臉換聲技術(shù)從術(shù)語上來講被稱為“深度偽造”，在中性意義上也稱“深度合成”，它借助的正是人工智能的技術(shù)核心——深度學(xué)習(xí)和算法自動化。例如一種軟件DEEPFAKES。AI換臉換聲的基本邏輯是通過深度學(xué)習(xí)、特定算法將目標(biāo)人物的人臉、表情、聲音等（源圖像、源音頻）‘嫁接’‘遷移’到模仿視頻中，最終實(shí)現(xiàn)視聽合成的高仿真性。早期的深度合成技術(shù)在微表情、面部輪廓等方面尚存在偽造痕跡，而隨著合成技術(shù)的迭代升級，合成的人臉、動作、場景融合等已呈現(xiàn)超高真實(shí)性，且軟件成本低、合成速率高、檢測鑒別難度大，一般人難以發(fā)現(xiàn)偽裝痕跡。深度合成”“深度偽造”需要事先選定一個(gè)目標(biāo)人物。在最早期，被換臉者是那些影音圖像遍布互聯(lián)網(wǎng)的公眾人物（如明星、知名商界人士等）。