人工智能（AI）技術(shù)已經(jīng)變得讓人難辨真?zhèn)?。從文字、聲音到圖像、視頻，沒(méi)有什么是 AI 不能創(chuàng)造的。這在犯罪分子看來(lái)，無(wú)疑是一件“如意金箍棒”。

根據(jù)華爾街日?qǐng)?bào)報(bào)道，今年 3 月，犯罪分子通過(guò)商業(yè)化的人工智能語(yǔ)音生成軟件，成功模仿并冒充一家英國(guó)能源公司的德國(guó)母公司 CEO，來(lái)欺騙其多位同事和合作伙伴，一天內(nèi)多次詐騙并轉(zhuǎn)移資金，使得該公司損失 220,000 歐元（約合 173 萬(wàn)元人民幣）。

（來(lái)源：thenextweb）

該報(bào)道稱(chēng)，這是一起語(yǔ)音欺詐的新案例，即 vishing（“語(yǔ)音網(wǎng)絡(luò)釣魚(yú)”的縮寫(xiě)），犯罪分子使用人工智能技術(shù)來(lái)自動(dòng)化網(wǎng)絡(luò)攻擊并詐騙，獲取錢(qián)財(cái)，是一種非常可怕的手段。

華爾街日?qǐng)?bào)引述這家英國(guó)能源公司的 CEO 話(huà)說(shuō)，他正在與他的老板，即該公司德國(guó)母公司的首席執(zhí)行官通電話(huà)，對(duì)方要求他將資金發(fā)送給匈牙利供應(yīng)商。據(jù)該公司的信用保險(xiǎn)公司 Euler Hermes 表示，這名來(lái)電者表示該請(qǐng)求非常緊急，要求行政人員在一小時(shí)內(nèi)付款。

據(jù)悉，該英國(guó)能源公司由 Euler Hermes（裕利安宜）集團(tuán)投保，后者承擔(dān)了全部被騙損失。該公司反欺詐專(zhuān)家 Rüdiger Kirsch 表示，英國(guó)首席執(zhí)行官認(rèn)可了他的老板有著輕微德國(guó)口音以及他在電話(huà)中的聲音旋律。這英國(guó) CEO 認(rèn)為，這就是他的德國(guó)老板打來(lái)的。

非常有趣的是，當(dāng) 22 萬(wàn)歐元到手后，這德國(guó)“老板”又打電話(huà)來(lái)了，前前后后，他給打了三次電話(huà)，他表示，其德國(guó)母公司需要轉(zhuǎn)移資金償還英國(guó)公司的費(fèi)用。然后他們?cè)诋?dāng)天晚些時(shí)候進(jìn)行了第三次電話(huà)會(huì)議，再次冒充德國(guó)首席執(zhí)行官，并要求第二次付款。由于轉(zhuǎn)賬償還資金還沒(méi)有到來(lái)，而這次電話(huà)號(hào)碼是來(lái)自?shī)W地利的，該公司行政部門(mén)開(kāi)始懷疑，所以并沒(méi)有支付第二筆款項(xiàng)。

后來(lái)的調(diào)查顯示，冒充德國(guó) CEO 的犯罪分子將騙來(lái)的資金，從匈牙利轉(zhuǎn)移到墨西哥和其他地方。截至目前，當(dāng)局已經(jīng)結(jié)束了相關(guān)調(diào)查，暫時(shí)未確定這次詐騙事件背后的罪魁禍?zhǔn)住?/span>

事實(shí)上，由于這一事件是基于人工智能的網(wǎng)絡(luò)攻擊，找到犯罪分子無(wú)疑是“大海撈針”，但給人們提了醒，未來(lái)企業(yè)和組織都可能遇到這一事件，如何處置才是根本性辦法。

報(bào)道指出，歐洲的語(yǔ)音欺騙攻擊是他們聽(tīng)到的第一個(gè)網(wǎng)絡(luò)犯罪事件，而犯罪分子依賴(lài)的是 AI 技術(shù)。Rüdiger Kirsch 表示，這次事件對(duì)該公司來(lái)說(shuō)，也是一個(gè)新的挑戰(zhàn)。在這種情況下，AI 語(yǔ)音生成的軟件能夠成功模仿德國(guó)母公司 CEO 的聲音，未來(lái)可能會(huì)有更多的聲音模仿，這實(shí)在很可怕。

有更多人認(rèn)為，這不會(huì)是使用 AI 犯罪的孤立案件，如果這種詐騙攻擊被證明是成功的話(huà)，會(huì)有更多類(lèi)似犯罪事件發(fā)生。歐洲刑警組織歐洲網(wǎng)絡(luò)犯罪中心戰(zhàn)略負(fù)責(zé)人菲利普·阿曼表示，如果黑客認(rèn)為這種攻擊更成功或更有利可圖，他們有可能會(huì)提高使用該技術(shù)的頻率。

網(wǎng)絡(luò)安全公司 Endgame 的數(shù)據(jù)科學(xué)主管 Bobby Filar 表示，一些軟件公司提供的服務(wù)可以迅速冒充聲音，“你不需要是數(shù)學(xué)博士，就可以使用它。”

毫無(wú)疑問(wèn)， AI 技術(shù)正在造福人類(lèi)，比如說(shuō)語(yǔ)音助手、機(jī)器人服務(wù)等等，但是人們對(duì)其技術(shù)的運(yùn)用，并不一定都是正面的。根據(jù)安全研究人員去年在黑帽大會(huì)上展示了一項(xiàng)相關(guān)技術(shù)，黑客將音頻樣本拼接在一起，經(jīng)過(guò)大量的語(yǔ)音數(shù)據(jù)合成之后，就可以輕松模仿一個(gè)人的聲音。

（來(lái)源：Pxhere）

在 AI 語(yǔ)音工具越來(lái)越“真實(shí)”的時(shí)候，犯罪分子利用高科技手段的可能性也隨之提高。通過(guò)電話(huà)假冒熟人身份，輕易獲得受害者的信任，接著，犯罪分子就可以輕松訪問(wèn)其他私人內(nèi)容，并利用其來(lái)獲取錢(qián)財(cái)、銀行卡等敏感信息。

聯(lián)合國(guó)區(qū)域間犯罪與司法研究所人工智能與機(jī)器人中心負(fù)責(zé)人伊拉克利·貝里茲表示，將機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于欺騙性聲音，使網(wǎng)絡(luò)犯罪變得更加容易。

2018 年，設(shè)計(jì)反欺詐語(yǔ)音軟件的網(wǎng)絡(luò)安全公司 Pindrop 發(fā)布了一份語(yǔ)音數(shù)據(jù)報(bào)告，結(jié)果顯示，從 2013 年到 2017 年，語(yǔ)音欺詐的數(shù)量增長(zhǎng)了 350％，更令人震驚的是，每 638 個(gè)電話(huà)中，就有 1 個(gè)是虛假語(yǔ)音詐騙的。

為了保護(hù)大眾免受經(jīng)濟(jì)和聲譽(yù)的影響，通過(guò)后續(xù)電子郵件或其他替代方式驗(yàn)證“語(yǔ)音通話(huà)”指令變得至關(guān)重要。

隨著基于 AI 技術(shù)的工具逐漸興起。一方面，它為探索和創(chuàng)造提供了空間。另一方面，它也沒(méi)有邊界和護(hù)城河，助長(zhǎng)欺詐事件的發(fā)生。

DeepTech 曾采訪 MIT 人工智能實(shí)驗(yàn)室主任 Daniela Rus，她認(rèn)為人類(lèi)需要謹(jǐn)慎、仔細(xì)地看待 AI 技術(shù)。技術(shù)是中立的，最終的結(jié)果取決于控制技術(shù)的人。

Daniela Rus 對(duì) DeepTech 表示，雖然 AI 有諸多優(yōu)勢(shì)，但是要警惕人類(lèi)“抄近道”，該弄的東西沒(méi)有弄，欺騙技術(shù)與系統(tǒng)，造成很大的困擾。

“實(shí)際上，每個(gè)人都有自己關(guān)于隱私的底線(xiàn)，因此就很難有個(gè)通用的解決方案，所以，這個(gè)問(wèn)題很難解決。但是，我認(rèn)為堅(jiān)持?jǐn)?shù)據(jù)向善非常重要。”美國(guó)卡內(nèi)基梅隆大學(xué)教授周以真對(duì) DeepTech 表示。

或許，當(dāng)大眾認(rèn)為技術(shù)正在快速影響人們生活的時(shí)候，要深刻意識(shí)到，技術(shù)帶來(lái)的，不僅僅是正向的回饋，還有負(fù)面的效應(yīng)，這把雙刃劍，如何利用好，將是全人類(lèi)最嚴(yán)峻的課題與挑戰(zhàn)之一。

萬(wàn)一碰到了 AI 語(yǔ)音詐騙，你能聽(tīng)出來(lái)嗎？

-End-

參考：
https:///security/2019/09/02/fraudsters-deepfake-ceos-voice-to-trick-manager-into-transferring-243000/
https://www./articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402
https://www./attacks/articles/ai-could-escalate-new-type-of-voice-phishing-cyber-attacks