從換臉騙錢到套殼賣課 AI詐騙如何避坑

紙引未來網訊當人們把2023年看作是AI元年時，2024年的目光自然地聚集在了AI應用的落地上。然而在商業化之前，AI已經變成了某些灰色產業的斂財工具。

莫名其妙的電話、熱情的美女、謠言、詐騙……在你無意識的時候，AI騙局就已經來到你身邊。PConline收集整理了四大AI新騙局，來看看你最“眼熟”哪一個？

騙局一：語音求救

常見范圍：微信、電話目標人群：覆蓋所有，其中家長居多

面對陌生的號碼你可能會直接掛掉，但是如果是家人打來的“求救電話”呢？

據報道，去年11月，王欣的母親突然接到一通“王欣”打來的電話，讓母親轉賬30萬元，著急的王欣母親立馬就打算給對方轉錢，被同事攔了下來。

同事建議先給王欣打電話，確認情況，結果真實的王欣正在睡午覺，啥事也沒，而那通“求救電話”就是騙子利用王欣的AI克隆聲音制作的。

近幾年，AI語音合成技術有了顯著的發展，一些C端的應用也逐漸成熟。像Voice AI、剪映等應用中都提供生成AI克隆音色的功能。

只要念兩個例句，人人都能輕松生成自己的AI音色。不僅如此，現在的技術已經可以在保證聲音的高保真度的同時，模擬你的音色，甚至細致到你說話時的口音、重音、換氣的節奏等等，完全可以滿足實時的互動需求。

先前在網絡上爆火的“AI孫燕姿”就曾引得一眾討論，Up主用孫燕姿的AI克隆音色翻唱《發如雪》《Melody》等眾多知名歌曲。

該視頻合集獲得了2000多萬的播放量，網友們都在驚嘆，AI甚至會改變原曲中的部分旋律，依照孫燕姿的曲風特點進行調整，幾乎能做到以假亂真的水平。

同時網友們也都開始擔心，技術一旦被濫用，防詐騙的成本就更高了。

這樣的擔心不無道理。據網友分享，自己曾接到過一通莫名其妙的電話。一接通，對方就問“你家在哪”。

一頭霧水的網友回答“不知道”，徑直掛斷了電話。然而就在幾天后，網友的家人就接到了“網友”的求救電話——騙子僅憑一句話就能生成網友的AI克隆聲音，實施詐騙。

如果你認為，耳聽為虛，眼見為實。視頻信息才能確認身份，那么接下來這個騙局，將會顛覆你的想法，讓你驚呼“防不勝防！”

騙局二：換臉詐騙

常見范圍：微信、線上會議、FaceTime目標人群：覆蓋所有，熟人關系居多、針對女性居多

如今，眼見為實的“鐵律”也會面臨意外的情況，福州市的郭先生就曾因為這條“鐵律”狠狠吃了虧。

在去年4月份，郭先生的朋友突然打來微信視頻電話，說自己在外地投標，需要430萬的保證金，想借郭先生公司的賬戶走一下帳。

這位“朋友”隨即將錢打到了郭先生的賬戶上，并且截圖讓郭先生確認。雖然還未等來銀行的通知信息，但郭先生還是先把錢轉了過去。結果，跟他視頻的，是用AI換了臉的騙子，佯裝成郭先生的朋友來騙錢。

其實，“眼見為虛”的換臉技術我們早就見過。這種技術名叫Deepfake深度偽造，是一種將圖片/視頻合并疊加到源圖片/視頻上，生成虛假的個人表情、動作的AI技術。

在2023年上映的《流浪地球2》中，就是利用這個技術，將62歲的劉德華還原到我們印象中年輕的華仔模樣。

據《流浪地球2》的視覺特效徐建的分享，在電影中，Deepfake的技術方案是用要替換的目標演員的海量素材訓練AI替換拍攝素材的一種方式，相對省時省力省錢。

在好萊塢電影制作中，這樣的操作很常見。漫威的年輕版鋼鐵俠和年輕版黑豹都是基于Deepfake和演員年輕時的2D素材訓練AI得出的。

但先進的技術往往是一把雙刃劍。落到居心叵測的人手里，就變成了傷人的利刃。

騙局三：美女帶貨

常見范圍：視頻號、抖音、小紅書等多家社交媒體平臺目標人群：覆蓋所有，其中男性居多

外國人的面孔、些許生硬的中文，再配上濃厚的濾鏡，就組成了龐大的異國美女隊伍。

這就是AI的新套路。視頻全部都是由AI合成的假人，再配上機器語音，打著“促進國際友誼”的旗號，出售商品。

在這背后操刀的是自媒體團隊。他們的商業思路十分清晰：先通過視頻來積累粉絲——到達一定粉絲量后，開櫥窗帶貨——實現變現。

由于制作成本低，在起號階段，一人往往能運營數十個賬號，視頻的腳本也是通用的。無所謂單個賬號是否有爆款，“廣撒網，多斂魚”，商品銷量才是最終目的。

騙局四：AI知識付費

常見范圍：微博、抖音、小紅書等多家社交媒體平臺目標人群：積極學習的年輕群體

“現在不學AI，第一波失業的就是你！”“AI工作年薪200萬，入門方法免費教你！”“AI是普通人逆襲的最后機會！”你一定沒少看到這樣的標語。

從2022年底，OpenAI發布ChatGPT開始，學習AI就成了新風潮。

隨著科技巨頭們不斷推陳出新，各行各業的內容創作者們也鉚足了勁，在自己的賬號、社群中發布越來越多的AI課程——“零基礎學AI”“AI繪畫教程”，甚至還有“教你如何做AI課程”的課程。

但大水漫灌的結果，必然是泥沙俱下。

不少年輕粉絲奔著學習新知識去，卻領了“吃一塹，不長智”的教訓。許多內容創作者利用信息差，將國外免費開放的官方AI教學翻譯過來，就成了自己的課件，美美賣課。

像許多“零基礎AI”課程中常見的“prompt使用技巧”，其實是來自OpenAI官網發布的教學內容。這些標價199、299元的課程還贈送了“免費AI體驗”。但實際上，是本就免費開放的大模型，再加上一個套殼包裝罷了。

一些粗制濫造的AI課程絲毫不影響這個市場的火熱程度。不少焦慮的年輕人仍在直播間瘋狂下單。

這些授課人就是通過傳播焦慮的方式來促進課件的下單量。一不小心你就會成為“韭菜園里最靚的一棵”。

寫在最后

上面四種AI騙局，你被哪個絆住了腳？

其實，現在互聯網上的AI騙局遠不止這些。網絡安全公司Fortinet發布的《2024全球安全威脅預測》中提到，AI已經成為“頭號關注”。

我們自身要擦亮眼睛、審慎思考，這是我們面對騙局的有效出路。

紙引未來網是一個造紙印刷包裝的大數據服務平臺，為您提供包裝紙價格指數、文化用紙價格指數、生活用紙價格指數、特種紙價格指數、廢紙價格指數、紙漿價格指數，采購訂單，廣告推廣，免費找貨等服務。官網網址：http://www.xfzzn.com