聲明：本文來(lái)自于微信公眾號(hào) 量子位（ID:QbitAI），作者:西風(fēng) 魚(yú)羊，授權(quán)轉(zhuǎn)載發(fā)布。
就離譜!只因開(kāi)了一個(gè)視頻會(huì)議，直接被騙1.8個(gè)億。
這是真真切切已經(jīng)在香港發(fā)生的一場(chǎng)犯罪:
一家跨國(guó)公司香港分公司的財(cái)務(wù)人員，按照“CFO”的指令，給對(duì)方指定賬戶共計(jì)轉(zhuǎn)賬2億港幣（約合1.8億人民幣）。
誰(shuí)曾想，這個(gè)剛剛在視頻會(huì)議里跟自己“面對(duì)面”聊過(guò)的人，完全是Deepfake出來(lái)的!
先別著急罵這大兄弟警惕性太低，Ta也不是沒(méi)有過(guò)一絲絲懷疑，但是，這可不是什么詐騙界常見(jiàn)的一對(duì)一視頻通話——
參與會(huì)議的有好幾個(gè)熟面孔，無(wú)論是臉還是聲音，當(dāng)事人描述“每個(gè)人看起來(lái)都很真實(shí)啊”。
甭管怎么說(shuō)，這事兒的驚悚程度，是有點(diǎn)嚇到網(wǎng)友們了。
借由AI技術(shù)犯罪的話題，一時(shí)間又成為了各大平臺(tái)的討論焦點(diǎn)。
沖鋒在AI批評(píng)一線的馬庫(kù)斯就第一時(shí)間拉著網(wǎng)友們吃起了瓜:好家伙，這是《黑鏡》降臨了。
深度偽造的狗屎越來(lái)越真實(shí)了。
事件始末
我們暫且稱這位被騙的財(cái)務(wù)人員為“小帥”，事情的具體經(jīng)過(guò)是這樣?jì)饍旱摹?span style="display:none">O2j流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM
最初，小帥收到了一封遠(yuǎn)在英國(guó)總部的“CFO”發(fā)來(lái)的郵件。由于內(nèi)容提到需要執(zhí)行一項(xiàng)秘密交易，小帥一開(kāi)始有些疑慮，并懷疑這是網(wǎng)絡(luò)釣魚(yú)信息。
不想，騙子立馬展開(kāi)下一步動(dòng)作，邀請(qǐng)小帥進(jìn)行視頻會(huì)議。
小帥進(jìn)入視頻會(huì)議后徹底被眼前的一幕唬住了:不僅公司CFO在，小帥的一些同事也在，還有一些外部人員。
關(guān)鍵是，這些假同事和小帥認(rèn)識(shí)的真同事無(wú)論是模樣長(zhǎng)相還是聲音，都別無(wú)二致。
會(huì)議中，這個(gè)假冒CFO還讓小帥做自我介紹，不過(guò)在此過(guò)程中會(huì)議突然中斷。
騙子隨后又通過(guò)即時(shí)通訊平臺(tái)、電郵、一對(duì)一視頻通話與小帥保持聯(lián)系。
如此接連下套，小帥最終中了騙子的詭計(jì)，按照會(huì)議中的指示，分別向5個(gè)香港銀行賬戶進(jìn)行了15次轉(zhuǎn)賬，總計(jì)2億港元，也就是約2560萬(wàn)美元，約合RMB1.8個(gè)億。
從騙子聯(lián)系小帥開(kāi)始，整個(gè)事件大概持續(xù)了一個(gè)周，直到小帥之后向公司總部核實(shí)情況，才驚覺(jué)整個(gè)事件不過(guò)是一場(chǎng)精心策劃的詐騙。
之后他們報(bào)了警。警方立即展開(kāi)調(diào)查，發(fā)現(xiàn)會(huì)議中除小帥外的所有參與者，都是騙子使用公開(kāi)的個(gè)人視頻和音頻片段重建的數(shù)字人。
視頻中讓小帥自我介紹并不是真的在和他互動(dòng)，而只是單純的用虛擬形象下達(dá)指令。
警方還透露，不法分子曾使用相同的多人視頻通話策略，試圖詐騙該公司分部的另外一名員工，總共接觸了兩到三名員工。但警方未提供有關(guān)他們?cè)庥龅耐暾畔ⅰ?span style="display:none">O2j流量資訊——探索最新科技、每天知道多一點(diǎn)LLSUM.COM
目前該案還在進(jìn)一步調(diào)查中，尚未對(duì)詐騙者實(shí)施逮捕。
后續(xù)在新聞發(fā)布會(huì)上，香港警方表示已逮捕6名與此類詐騙有關(guān)的人員，且類似案件還有很多:
去年7-9月，有8張被盜的香港身份證被用于申請(qǐng)了90份貸款、登記了54個(gè)銀行賬戶;
至少有20次，AI Deepfake被用來(lái)模仿身份證上的人像，以騙過(guò)面部識(shí)別程序。
AI“克隆”有多猛
可以看到，整個(gè)案件中，最終讓小帥放下戒備的一大關(guān)鍵點(diǎn)就在于視頻會(huì)議中的假人過(guò)于真實(shí)。
那么現(xiàn)在的“數(shù)字克隆人”究竟能有多真?一起來(lái)看幾個(gè)栗子。
就比如下面這段霉霉說(shuō)中文的視頻就來(lái)自一款爆火AI工具——HeyGen。
音色口型簡(jiǎn)直完美復(fù)刻，網(wǎng)友看了之后都嚇得直喊媽:
HeyGen的最新技術(shù)展示中，和數(shù)字克隆人實(shí)時(shí)聊天也已成為現(xiàn)實(shí)。
AI語(yǔ)音合成方面，最近比較火的是一家叫做11Labs（ElevenLabs）的初創(chuàng)公司。
11Labs不僅能實(shí)現(xiàn)29個(gè)語(yǔ)種的語(yǔ)音生成，而且僅需短至1分鐘的音頻素材，就能很好地“克隆”任何一個(gè)人的聲音，語(yǔ)調(diào)、情緒變化都能模仿到位的那種。
語(yǔ)音克隆，量子位，38秒
關(guān)鍵是，現(xiàn)如今這些AI克隆術(shù)不僅真實(shí)度越拉越滿，門檻也在逐漸降低……
比如下面這種開(kāi)源項(xiàng)目，已經(jīng)可以分分鐘實(shí)現(xiàn)實(shí)時(shí)視頻換臉。
項(xiàng)目主頁(yè)列有不少現(xiàn)成的不同人的面部模型，如果不喜歡還可以自己訓(xùn)練模型。
“數(shù)字克隆版的你即將到來(lái)”
或許是受到這一事件和前段時(shí)間霉霉成Deepfake受害者事件的影響，上述這個(gè)實(shí)時(shí)換臉項(xiàng)目再獲關(guān)注，還新鮮沖上了GitHub趨勢(shì)榜。
就在這個(gè)項(xiàng)目的issues中，不少網(wǎng)友的抵觸情緒早已彌漫多時(shí)。
但正如許多網(wǎng)友提到的那樣，技術(shù)沒(méi)有善惡之分。并且更現(xiàn)實(shí)的問(wèn)題在于，開(kāi)弓沒(méi)有回頭箭。
于是很多人把關(guān)注的重點(diǎn)，放到了“如何防御”這件事上。
除了更多規(guī)范和政策的制定，從技術(shù)的角度來(lái)說(shuō)，Nature就在“2024最值得關(guān)注的七項(xiàng)技術(shù)”一文中提到:
讓開(kāi)發(fā)者在AI工具中加入隱形水印機(jī)制或許是一種方案。
而從個(gè)人的角度來(lái)說(shuō)，提高警惕，已經(jīng)成為AIGC技術(shù)爆發(fā)時(shí)代不得不面對(duì)的命題。
香港警方也在這次事件中表示，將擴(kuò)大警報(bào)系統(tǒng)，以提前警告、阻止用戶向詐騙相關(guān)賬戶轉(zhuǎn)移資金。
不過(guò)，Deepfake假CFO騙走公司1.8個(gè)億這種事兒，多少還是有點(diǎn)過(guò)于離譜。
以致于不少網(wǎng)友提出了質(zhì)疑:
這么大一個(gè)公司，就沒(méi)點(diǎn)風(fēng)險(xiǎn)管理措施?
怕不是有內(nèi)鬼吧。
那么，你怎么看?
參考鏈接:
[1]https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage
[2]https://twitter.com/garymarcus/status/1754188331188130201
本文鏈接：Deepfake假CFO騙走公司1.8個(gè)億，員工：視頻會(huì)議里每個(gè)人看起來(lái)都很真實(shí)啊http://www.lensthegame.com/show-3-9786-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 嫦娥六號(hào)今年將出征月球：人類首次月背采樣返回！_中國(guó)嫦娥六號(hào)什么時(shí)候發(fā)射的
下一篇： OpenAI豪賭7萬(wàn)億，能買4個(gè)英偉達(dá)！奧特曼芯片帝國(guó)占全球GDP 10%，或引世界經(jīng)濟(jì)末日？