我們?nèi)蕴幱谌斯ぶ悄艿某跗?，但它正迅速成為組織保護(hù)自身的重要組成部分。企業(yè)使用高級(jí)算法，可以改善事件響應(yīng)，監(jiān)視潛在威脅并在危險(xiǎn)標(biāo)記生效之前對(duì)其進(jìn)行解密。它也可以用來幫助識(shí)別人們可能忽略的漏洞。

這些都是必不可少的功能，可將網(wǎng)絡(luò)防御系統(tǒng)提升到過去的反動(dòng)且費(fèi)時(shí)的戰(zhàn)略之上。但是，許多組織尚未利用AI在網(wǎng)絡(luò)防御中最重要的應(yīng)用：它缺乏同情心。

依靠你的信任

社會(huì)工程是由具有出色電話或電子郵件技能的人發(fā)起并執(zhí)行的，不涉及占據(jù)頭條新聞的高科技黑客。取而代之的是，黑客利用黑客試圖獲取的信息(例如，兩因素身份驗(yàn)證中涉及的手機(jī)號(hào)碼或利潤豐厚的游戲帳戶的密碼)與客戶服務(wù)代理或其他任何人進(jìn)行游戲。根據(jù)美國聯(lián)邦調(diào)查局(FBI)的互聯(lián)網(wǎng)犯罪投訴中心(Internet Crime Complaint Center)的數(shù)據(jù)，僅2018年一年，企業(yè)電子郵件妥協(xié)(BEC)這種流行的社會(huì)工程形式就造成了超過12億美元的損失。

盡管銀行和其他高價(jià)值實(shí)體可能是主要目標(biāo)，但沒人能幸免。在黑客成功說服她的無線運(yùn)營商激活新的SIM卡后，一名婦女損失了30,000美元的加密貨幣，然后該卡被用于破壞她對(duì)各種金融帳戶的兩因素身份驗(yàn)證。在另一起事件中，Ubiquiti Networks虧損了3910萬美元，此前黑客冒充了一名高級(jí)職員，并說服財(cái)務(wù)部門完成了大規(guī)模的資金轉(zhuǎn)移。

甚至像獎(jiǎng)勵(lì)程序這樣無害的東西也可能引起惡意威脅參與者的興趣。當(dāng)前，企業(yè)通過使用員工應(yīng)始終遵循的一組協(xié)議來培訓(xùn)員工，以解決此問題。

不幸的是，網(wǎng)絡(luò)安全鏈中最薄弱的環(huán)節(jié)不是防火墻，而是人的力量。他們從事客戶服務(wù)業(yè)務(wù)，并渴望取悅。他們?cè)谧裱_本方面也很糟糕，并且對(duì)知道所有正確話語的聰明騙子也不為所動(dòng)。如果黑客聲稱他丟失了他的酒店獎(jiǎng)勵(lì)卡，想將另一個(gè)發(fā)送到他的家中，然后詢問哪個(gè)地址在案，則呼叫中心代理可能會(huì)負(fù)責(zé)。現(xiàn)在，一個(gè)陌生人已經(jīng)獲得了特定客戶的私人信息。

停在他們的軌道上

如果客戶代理程序之前裝有人工智能(特別是對(duì)話式AI)，則結(jié)果將大不相同。當(dāng)世界上最大的游戲公司之一決定將對(duì)話式AI用作前端聊天代理時(shí)，便親身經(jīng)歷了這一過程。該公司以許多成功的視頻游戲特許經(jīng)營而聞名，該公司實(shí)施了Amelia來為客戶解決直接的游戲問題。該公司認(rèn)為Amelia可以減少客戶花在等待解決問題上的時(shí)間，她做到了。但是，在工作一段時(shí)間后，Amelia也注意到了呼叫者有時(shí)會(huì)要求訪問沒有正確識(shí)別信息的帳戶，從而發(fā)現(xiàn)了網(wǎng)絡(luò)釣魚者。在游戲世界中，在將真正的金融工具納入游戲玩法并附加金融帳戶信息的情況下，賭注很高。人工客戶服務(wù)代理被要求交出帳戶憑證。阿米莉亞(Amelia)并非無可救藥，但事實(shí)并非如此。

制定程序時(shí)要考慮公司政策，Amelia并不喜歡社交工程技術(shù)。她只是想證明自己就是您所說的人，她堅(jiān)持使用腳本并在行為出現(xiàn)危險(xiǎn)時(shí)引入新的身份驗(yàn)證形式來做到這一點(diǎn)。

最初的成功至少部分成功。與人工代理相比，Amelia能夠在更短的時(shí)間內(nèi)解決客戶投訴，并且她還減少了欺詐性帳戶的使用-但客戶滿意度下降了。消費(fèi)者如何被AI所困擾，以防止其帳戶信息被盜?

當(dāng)我們查看正常和逐步升級(jí)的聊天期間Amelia與客戶之間發(fā)生的事情的筆錄時(shí)，原因就很清楚了。她堅(jiān)持這一過程，并不允許自己被黑客欺騙，反過來，黑客又給了她較低的客戶滿意度，而游戲公司的呼叫中心卻給Amelia好評(píng)如潮。