“姐姐我今年67，上市公司老總，這輩子啥都齊了，就缺個(gè)你。”

“姐姐，年齡算啥，以后我寵你。”

“大妹子，要是我把微信給你，你會(huì)添加我嗎？不圖別的，就想跟你說說心里話。”

在主流短視頻平臺(tái)上，有無數(shù)個(gè)這樣喊著姐姐、說著情話的“AI霸總”。這些霸總大都穿著西裝，有的戴著大金鏈，對(duì)著鏡頭深情款款，配以抒情音樂。如果仔細(xì)看，有的霸總“撞臉”明星，而畫面底部有一行不起眼的小字：作品含AI生成。

第一財(cái)經(jīng)發(fā)現(xiàn)，AI霸總的視頻點(diǎn)贊量動(dòng)輒上千，評(píng)論里無數(shù)老年用戶熱情回應(yīng)。但霸總背后暗藏風(fēng)險(xiǎn)。社交平臺(tái)上，有用戶反饋，家里老人和霸總網(wǎng)戀，“不相信是假的，因?yàn)槔先藷o法理解AI。”而這些賬號(hào)往往能借此完成情感變現(xiàn)，或是帶貨，或是誘導(dǎo)轉(zhuǎn)賬等。

關(guān)于“假靳東”的騙局已經(jīng)曝光數(shù)年，但類似的套路仍在“收割”老年群體。瑞萊科技聯(lián)合創(chuàng)始人蕭子豪對(duì)第一財(cái)經(jīng)表示，近一年來利用AI進(jìn)行詐騙、造謠等違法犯罪行為屢禁不止、愈演愈烈，呈顯著上升趨勢(shì)。犯罪行為變得更具迷惑性，也更加隱蔽。這與近年來生成式AI技術(shù)能力突飛猛進(jìn)并持續(xù)開源開放有關(guān)，大量工具、產(chǎn)品問世，極大降低了不法分子的作惡門檻和成本。

第一財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，在電商平臺(tái)200元可定制一條以名人聲音“講話”的視頻，而制作AI換臉視頻的價(jià)格在20-500元不等。AI偽造的賬號(hào)和騙局泛濫成災(zāi)，被侵權(quán)的對(duì)象也從明星迅速蔓延至普通民眾，讓維權(quán)變得更加困難。

AI換臉泛濫：從明星到普通人

近日，一位用戶在社交平臺(tái)反映自己的母親被騙了，從他分享的用戶私信圖片來看，母親賬號(hào)與多個(gè)“AI霸總”賬號(hào)私信互動(dòng)，他們的話術(shù)如出一轍，“姐姐，終于等到你了”。其中一個(gè)賬號(hào)的頭像用的是演員靳東。

這不是孤例。此前有報(bào)道稱，不少老人迷上“AI霸總”，甚至有八旬老太被騙2000元。這些賬號(hào)的套路往往是針對(duì)老年女性用戶量身定做霸總視頻，提供情緒價(jià)值，進(jìn)而實(shí)現(xiàn)帶貨或斂財(cái)。

公安部數(shù)據(jù)顯示，2025年上半年全國電信網(wǎng)絡(luò)詐騙涉案金額超百億，僅2025年第一季度，全國AI換臉、擬聲詐騙案件數(shù)量環(huán)比激增45%，其中老年群體受騙占比達(dá)到38%。

在利用AI斂財(cái)?shù)南葳謇铮�老年人成為重點(diǎn)的“圍獵”目標(biāo)，而被AI侵權(quán)的主要群體，是像靳東、溫崢嶸這樣的明星。曾被視為“高科技”的AI技術(shù)，早已成為小團(tuán)隊(duì)甚至個(gè)人可輕松操作的工具，而明星這樣有大量素材的公眾人物，進(jìn)行換臉生成的門檻不高。

在電商平臺(tái)，第一財(cái)經(jīng)記者發(fā)現(xiàn)，直接搜索“AI換臉”會(huì)被平臺(tái)攔截?zé)o法顯示結(jié)果，但若將關(guān)鍵詞替換為“AI視頻制作”，則有更多操作空間。

記者問了近10個(gè)可以制作AI視頻的商家，能否制作明星換臉視頻，部分商家會(huì)明確拒絕AI換臉，但也有不少商家表示可以進(jìn)一步溝通細(xì)節(jié)，并引導(dǎo)記者至微信交流。

有商家粗略報(bào)價(jià)，制作換臉視頻的價(jià)格在20元至200元不等。也有商家要求看完視頻內(nèi)容和需求進(jìn)行報(bào)價(jià)，記者發(fā)送了一份2分鐘的視頻，詢問能否換臉一位明星，在簡(jiǎn)單詢問是否商用后，這位商家稱500元即可制作，對(duì)于價(jià)格他解釋稱，由于政策限制，現(xiàn)在行業(yè)里真人換臉的難度較大。

在AI擬聲方面，一位商家告訴記者，制作一條涉及名人講話的視頻，一口價(jià)是200元。

除了定制服務(wù)，各類可自行操作的AI工具更是讓換臉和擬聲變得人人可及。國內(nèi)外多款A(yù)I視頻軟件都能生成逼真的人物視頻，無需專業(yè)的技術(shù)知識(shí)，普通人跟著教程就能上手。

“太可怕了，視頻、聲音、口型完全看不出來真假。”2026年2月，演員王勁松發(fā)文稱自己的形象被某視頻賬號(hào)盜用，“把我AI了”。經(jīng)辨認(rèn)，其原始素材來自2020年拍攝的電視劇《冰雨火》，AI換臉后的假王勁松以逼真的聲音和畫面進(jìn)行商業(yè)推廣。

雖然最后經(jīng)投訴視頻刪除了，但王勁松認(rèn)為，侵權(quán)者的代價(jià)可以忽略不計(jì)，“不疼不癢過去了，但誰能保證，這種鉆法律空子的擦邊球，最后不淪為犯罪的手段？”

而2025年底，演員溫崢嶸更是被迫在個(gè)人賬號(hào)開啟多場(chǎng)“我是真的溫崢嶸”直播，以對(duì)抗網(wǎng)絡(luò)上層出不窮的“AI分身”。溫崢嶸團(tuán)隊(duì)工作人員表示，發(fā)現(xiàn)該現(xiàn)象后團(tuán)隊(duì)便持續(xù)進(jìn)行舉報(bào)，一天時(shí)間內(nèi)曾舉報(bào)50個(gè)假冒賬號(hào)，有的造假賬號(hào)被平臺(tái)下架處理，有的賬號(hào)剛被下架很快又換了個(gè)形式重新出現(xiàn)，令人防不勝防。

該工作人員稱，商家只需要截取一段影像，通過簡(jiǎn)易工具便能生成虛假內(nèi)容，但取證動(dòng)作卻需要花費(fèi)很大精力。且造假團(tuán)隊(duì)喜歡在凌晨三四點(diǎn)鐘打時(shí)間差發(fā)布虛假視頻。雖然團(tuán)隊(duì)已送達(dá)相關(guān)律師函，但目前調(diào)查的僅僅是一部分造假商家。

更令人憂慮的是，近一年，AI換臉的侵權(quán)對(duì)象正在從明星蔓延至普通人，更隱形，維權(quán)難度也更高了。

在小紅書上，一位萬粉博主@阿爾忒彌斯舟提到，“打開小紅書刷到自己的照片結(jié)果發(fā)現(xiàn)臉不是自己，被嚇了一跳，后面才反應(yīng)過來是AI換臉。”他表示，后續(xù)舉報(bào)成功，這條作品已經(jīng)被小紅書官方刪除了，但“不敢想象這種AI換臉被用到非法的途徑會(huì)是什么后果”。

評(píng)論區(qū)不少用戶反饋“辨認(rèn)不出來哪個(gè)是AI”。但仔細(xì)看能發(fā)現(xiàn)，AI換臉后的照片還是有一些痕跡，脖子和臉比例不對(duì)等等，但并不是所有用戶都有分清AI的能力。

另外一名僅幾千粉的博主完全沒想到自己會(huì)被換臉，“以為只有網(wǎng)紅才會(huì)被盜用，沒想到我這點(diǎn)粉絲也會(huì)。”他已經(jīng)發(fā)現(xiàn)四個(gè)人套用他的臉了。

由于并非明星，這些仿冒賬號(hào)用于婚戀詐騙和“殺豬盤”則更難被察覺，即便被發(fā)現(xiàn)，也就“一刪了事”，違法成本極低。

反AI騙局：沒有終點(diǎn)的“貓鼠游戲”

靳東是AI換臉的典型受害者，2026全國兩會(huì)期間，他也回應(yīng)了AI換臉亂象，稱維權(quán)很難，不法分子利用AI換臉偽造其形象，在短視頻平臺(tái)針對(duì)中老年群體實(shí)施情感詐騙與非法集資，性質(zhì)極其惡劣。靳東呼吁對(duì)AI換臉立法，出臺(tái)更多細(xì)則。

面對(duì)愈演愈烈的 AI 造假亂象，法律懲戒與平臺(tái)治理已開始“亮劍”，但從實(shí)際效果來看，仍存在違法成本低、取證難度大、維權(quán)流程繁等諸多短板。

在法律層面，AI 換臉侵權(quán)已有明確的法律依據(jù)：未經(jīng)授權(quán)使用 AI 技術(shù)生成自然人面部特征、聲音用于營利，違反《民法典》相關(guān)規(guī)定，構(gòu)成肖像權(quán)侵權(quán)；若內(nèi)容丑化、貶損當(dāng)事人，還會(huì)同時(shí)侵害名譽(yù)權(quán)，而情節(jié)嚴(yán)重者還將承擔(dān)刑事責(zé)任。

北京互聯(lián)網(wǎng)法院去年曾發(fā)布涉人工智能侵權(quán)典型案例，其中一個(gè)是用知名教授的公開演講視頻合成近似的聲音進(jìn)行圖書“帶貨”，法院審理后認(rèn)為，涉案視頻構(gòu)成侵犯肖像權(quán)和聲音權(quán)，判被告道歉賠償12萬元。

在平臺(tái)治理方面，各大社交平臺(tái)也開展了專項(xiàng)治理。3月初，微信發(fā)布關(guān)于打擊利用AI仿冒名人進(jìn)行引流虛假宣傳的公告，累計(jì)處置 AI 仿冒名人違規(guī)內(nèi)容1.3萬余條，封禁賬號(hào)1200余個(gè)。抖音電商也發(fā)布公告稱“AI仿冒肖像及聲音侵權(quán)”成為重點(diǎn)治理領(lǐng)域，累計(jì)處置侵權(quán)仿冒達(dá)人賬號(hào)1.1萬個(gè)，處置仿冒李亞鵬等名人的侵權(quán)內(nèi)容 16.5 萬條，關(guān)閉136個(gè)相關(guān)違規(guī)達(dá)人電商權(quán)限并凍結(jié)傭金30天。

部分 AI 技術(shù)平臺(tái)也開始采取限制措施，今年2月，豆包旗下視頻生成模型Seedance2.0上線后，執(zhí)行嚴(yán)格限制：禁止生成明星、公眾人物、網(wǎng)紅等真實(shí)人物肖像/視頻/語音，防范AI換臉/偽造/商用侵權(quán)。

不過，北京市京都律師事務(wù)所合伙人常莎認(rèn)為，現(xiàn)有的法律運(yùn)行存在侵權(quán)成本過低、平臺(tái)責(zé)任虛化、維權(quán)鏈條過長的困境。權(quán)利人需要經(jīng)歷取證、公證、訴訟等漫長流程，因此治理AI換臉亂象的關(guān)鍵在于對(duì)現(xiàn)有法律進(jìn)行針對(duì)性修補(bǔ)。例如引入懲罰性賠償機(jī)制，讓侵權(quán)成本高于收益；同時(shí)將平臺(tái)責(zé)任從“事后刪除”前移至“事前審核”，對(duì)涉及知名公眾人物的AI合成內(nèi)容主動(dòng)篩查。

蕭子豪對(duì)第一財(cái)經(jīng)表示，AI技術(shù)衍生安全風(fēng)險(xiǎn)的治理問題是個(gè)非常復(fù)雜的社會(huì)問題，涉及很多方面。既要在法律法規(guī)層面事前規(guī)范引導(dǎo)、事后監(jiān)管懲戒，也需要有技術(shù)手段令A(yù)I更加安全、可控。

在技術(shù)層面，蕭子豪認(rèn)為，對(duì)AI的鑒偽是一場(chǎng)“貓鼠游戲”，此消彼長，相互博弈。因此，對(duì)AI騙局的識(shí)別也要隨著生成技術(shù)的進(jìn)展不斷研究、更新、迭代，沒有終點(diǎn)。