許多人擔(dān)心技術(shù)的新出現(xiàn)，例如能夠創(chuàng)建看起來(lái)如此逼真的深度偽造，以至于很難分辨視頻和圖像是否是他們一目了然的人。谷歌希望更容易了解視頻是真實(shí)的還是深度偽造的，并且正在為深度偽造檢測(cè)研究做出貢獻(xiàn)。谷歌表示，雖然許多深度造假是為了幽默，但它們有可能對(duì)個(gè)人和社會(huì)有害。

谷歌表示，它認(rèn)為這些問(wèn)題很?chē)?yán)重，并指出它過(guò)去曾發(fā)布過(guò)一個(gè)合成語(yǔ)音數(shù)據(jù)集，以支持開(kāi)發(fā)假音頻檢測(cè)器的國(guó)際挑戰(zhàn)。谷歌表示，作為挑戰(zhàn)的一部分，該數(shù)據(jù)集已被 150 多個(gè)研究和行業(yè)組織下載。相同的數(shù)據(jù)集現(xiàn)在可供公眾使用。

谷歌本周與 Jigsaw 合作推出了一個(gè)新的視覺(jué)深度偽造數(shù)據(jù)集。新數(shù)據(jù)集已被納入慕尼黑工業(yè)大學(xué)和那不勒斯費(fèi)德里科二世大學(xué)的 FaceForensics 基準(zhǔn)測(cè)試。將數(shù)據(jù)集集成到基準(zhǔn)測(cè)試中將有助于識(shí)別假貨，可以在FaceForensics GitHub 頁(yè)面上下載。

谷歌表示，該領(lǐng)域正在迅速發(fā)展，隨著 deepfake 技術(shù)的發(fā)展，它將添加到數(shù)據(jù)集中。谷歌還承諾繼續(xù)與該領(lǐng)域的合作伙伴合作。谷歌指出，它“堅(jiān)信”支持蓬勃發(fā)展的研究社區(qū)并減輕濫用合成媒體的潛在危害。

FaceForensics 數(shù)據(jù)集的新版本被稱(chēng)為朝這個(gè)方向邁出的“重要一步”。為數(shù)據(jù)集創(chuàng)建的 deepfakes 使用了演員，雖然一些假貨看起來(lái)非常像演員，但其中一些看起來(lái)非常不同。