嘴上都是“情意”,心裡全是生意——警惕“AI霸總”騙老人

           短視頻平臺上,身著正裝、開著豪車、戴著金表的「儒雅霸總」,張口「姐姐」、閉口「想你」,噓寒問暖甚至下跪求婚......

        這些「霸總」其實是AI生成的,但不少老年粉絲信以為真,不僅身心健康受到影響,還存在被詐騙的風險。

       “AI霸總”帳號流量驚人

        姐姐,我今年67歲,上市公司老總,上海有幾套房,千萬存款都備著,這輩子啥都齊了,就缺個你“”老婆,我知道你在看我,懇請老婆大人下嫁給我這個老男人可以嗎“...... 短視頻平臺上,這類視頻比比皆是。 這些「AI霸總」或是AI數位人,或是經AI換臉、擬聲偽造的形象,大多頂著儒雅成熟的人設,話術直白,戳中老年粉絲的心意。

        即便視頻下方標註著「內容由AI生成」,評論區里的一些老年粉絲依舊深信不疑。

      一條條評論充滿真情——“弟弟你要照顧好自己”“你把微信告訴姐姐,姐姐來接你”“我愛你,就等你娶我”,還有不少人留下自己的聯繫方式、家庭位址,期盼能與“霸總”見上一面。

        這些“AI霸總”帳號流量驚人。 “新華視點”記者搜索關鍵詞發現,僅平臺推送來的“AI霸總”帳號就達上百個,數個帳號粉絲達到十幾萬。

“AI霸總”在視頻中跪地求婚。 (網路截圖)

          有從業者表示,由於製作門檻極低,單個從業者可管理多個帳號,“AI霸總”帳號“數以萬計”。 一個擁有15.6萬粉絲的「霸總」帳號,一條「姐姐今天是我的生日,能祝我生日快樂嗎」的視頻,收穫7.1萬點讚、1.3萬條評論; 該帳號還開設了三個粉絲群,記者看到,總共有400餘名粉絲加入,每天群內都有粉絲分享自拍照並問候“霸總”。

        部分帳號還開通了AI聊天功能。 記者嘗試與一個「AI霸總」聊天後發現,其聊天內容全程圍繞感情生活和個人隱私展開,比如反覆詢問「是不是一個人在家」「有沒有男朋友」「你們感情好不好」等。

        記者在社交平臺上看到,關於自家長輩深陷「AI霸總」視頻無法自拔的吐槽不在少數:有的奶奶大半夜給「AI霸總」做一桌子菜,等著對方「赴約」; 有的老人堅信視頻里的「霸總」會送房送車,執意要“奔現”。

        虛情假意帶來豐厚獲益

        記者調查發現,“AI霸總”利用情感捆綁,通過流量或帶貨等渠道變現,讓部分老年人財產受損,甚至身心健康受到嚴重影響。

        記者在各大社交平臺搜索「AI老年人賽道」,相關教程類商品超百條,產品標題相當直白——“中老年AI視頻,暴利賽道,每天穩定1K到2K”“中老年深信不疑賽道,AI製作視頻,20個作品漲粉40萬”,部分教程售出200多件。

          記者花費10元購買了一個“AI中老年情感賽道”教程,商家宣稱能“20天純利12W+”。 所謂的「培訓導師」稱,「AI中老年情感賽道」就是利用老年人的情感空缺與精神壓力,生成AI視頻來緩解他們的焦慮。

“AI霸總”在線表白引得老年網友在彈幕深情回復。 (網路截圖)

         “製作一條數位人視頻最多只要5分鐘。 你可以同時運營幾十甚至上百個帳號。 這些AI視頻對老年人完全是降維打擊,不用擔心新號沒有流量。 “”培訓導師“給記者展示了一個僅有4條”AI霸總“視頻的新號,每條視頻的點讚量都達到1000左右,相關的櫥窗購物銷量就有33件,且客單價不低。

         據介紹,變現管道主要有三種:一是流量分成,賺取平臺流量收益; 二是櫥窗帶貨,積累粉絲後,帳號櫥窗可售賣中老年服飾、養生產品、書籍等; 三是專屬會員通道,粉絲按月或者按年支付費用,享受包括優先服務、付費連線等權益。

        “我媽就在'AI霸總'的帳號里下單了好多用不上的東西,家裡成堆的快遞盒甚至都沒有打開。 我粗略數了數,定價199元、288元的開運掛件,她買了50多個,一心想著要支援『好弟弟』。 “上海市民陳曉蓉說。

       湖南網友抹茶告訴記者,“AI霸總”甚至添加了自家老人的微信,每天發曖昧小作文、AI合成的假照片,配上“帶你去旅行”“未來一起生活”等虛假承諾,引得老人持續打賞、轉帳。

       多方共治守護銀髮群體

       “AI霸總”圍獵老年人的亂象,既是法律問題,也是社會問題。

        2025年,國家互聯網資訊辦公室等四部門聯合發佈《人工智慧生成合成內容標識辦法》,明確服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識。 各大平臺也積極響應,明確對AI生成內容同步添加顯式與隱式標識。

       “從法律層面看,如果是生成合成的數位人'霸總',但視頻沒有明顯標註,那麼就顯然違規了。” 上海市君悅律師事務所合夥人律師王垚翔說,“如果這類'AI霸總'帳號打著真人的名義跟老年人建立一對一關係,且利用老年人對其身份的錯誤認識,引導老人購買產品、服務甚至直接轉帳,就有可能涉嫌詐騙,至少也構成民事上的欺詐。 ”

       但專家也表示,「AI霸總」帳號反覆運算快、隱蔽性強,取證難度大,且侵權成本低、維權流程繁瑣,部分老人即便發現情感受騙,也難以維權。

      從社會層面來看,部分老年人深陷其中,根源在於情感需求空缺和自我防禦意識不足。 上海大學副教授陸丹丹認為,隨著人口老齡化加劇,不少老年人獨自生活,情感孤獨,而“AI霸總”恰好填補了情感空白。 同時,老年群體對AI合成技術缺乏辨別能力,難以識破虛假套路。

     為了在AI時代守護好銀髮群體,受訪專家表示,需要構建起多方共治的格局。 王垚翔說,各短視頻平臺應切實履行主體責任,加大對違規賬號的查處力度,完善AI生成內容的標識機制,確保標識清晰、醒目; 優化演算法推送,推出更完善的老年人模式,減少對AI離奇內容的推送。

       陸丹丹建議,一方面子女應承擔起責任,多給予老人情感陪伴,主動幫老人熟悉網路環境,提醒老人警惕網路詐騙; 另一方面社區層面也應常態化開展AI科普和防騙培訓,提升老年人的自我防禦意識。 “要多方協同發力,讓老年人在數字時代安心享受科技便利,遠離AI騙局的傷害。”

 

        來源:新華網