久久久久精品免费福利电影,国产又黄又大又粗视频,A级毛片免费播放无码,人人妻人人爽人人澡欧美一区

【文/觀察者網(wǎng) 尹哲 編輯/周遠(yuǎn)方】

常言道，眼見為實(shí)。然而，隨著人工智能的迅猛發(fā)展，一些使用Deepfake（深度偽造）技術(shù)制作的換臉視頻也在網(wǎng)絡(luò)上屢見不鮮，該技術(shù)甚至被別有用心的人利用，成為詐騙、誣陷等罪惡勾當(dāng)?shù)墓ぞ撸o社會和個(gè)人帶來嚴(yán)重威脅。

7月9日，在2021WAIC世界人工智能大會上，北京瑞萊智慧科技有限公司（RealAI）發(fā)布DeepReal深度偽造內(nèi)容檢測平臺。

瑞萊智慧副總裁唐家渝在演講中表示：該檢測平臺能夠通過研究深度偽造內(nèi)容和真實(shí)內(nèi)容的表征差異性辨識、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，快速、精準(zhǔn)地對多種格式與質(zhì)量的圖像進(jìn)行真?zhèn)舞b別，為遏制和防范深度偽造技術(shù)的大規(guī)模濫用提供技術(shù)支撐。

特朗普電視直播曾中招

在接受采訪時(shí)，瑞萊智慧副總裁唐家渝向觀察者網(wǎng)指出，深度偽造技術(shù)持續(xù)進(jìn)化，網(wǎng)絡(luò)數(shù)字內(nèi)容多變、隱匿性強(qiáng)，監(jiān)管難度大，因此開展主動技術(shù)防范與檢測工作是必要的。

所謂“深度偽造”，譯自英語中新出現(xiàn)的一個(gè)組合詞Deepfake，是計(jì)算機(jī)的“深度學(xué)習(xí)”（Deeplearning）和“偽造”（fake）的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時(shí)代。

眾所周知，在2019年紅極一時(shí)的換臉軟件“ZAO”上，用戶只需上傳一張照片，就能秒變“戲精”，甚至還能與偶像同臺飆戲，效果極其逼真；不久前，短視頻領(lǐng)域出現(xiàn)的“螞蟻呀嘿”熱潮，其基礎(chǔ)也是深度偽造技術(shù)。

這種技術(shù)被稱作一種合成媒體（syntheticmedia），是通過自動化的手段、特別是使用人工智能的算法技術(shù)，進(jìn)行智能生產(chǎn)，操縱、修改數(shù)據(jù)，最終實(shí)現(xiàn)媒體傳播行為的一種結(jié)果。

通俗理解，“深度偽造”就是把圖片和聲音輸入機(jī)器學(xué)習(xí)的算法，從而可以輕易地進(jìn)行“面部操作”（facemanipulation）——把一個(gè)人的臉部輪廓和表情放置在其他任何一個(gè)人的臉上，同時(shí)利用對聲音的逼真處理，制造出實(shí)為合成卻看似極真的視頻——用以躲避識別、混淆視聽、娛樂用戶，以及實(shí)現(xiàn)其他虛假宣傳的目的。

近年來，非法利用AI技術(shù)偽造他人肖像吸引流量牟利，甚至從事侮辱、誹謗、網(wǎng)絡(luò)詐騙、色情宣傳等違法犯罪活動的案例已屢見不鮮。

唐家渝以美國前總統(tǒng)特朗普的一次電視直播意外舉例。

在一次福克斯旗下的Q13電視臺直播中，特朗普一直做出吐舌頭的動作，之后信號被掐斷。經(jīng)電視臺排查，編輯在直播中利用技術(shù)手段播放了偽造視頻，最終涉事編輯被解雇。

2019年初，F(xiàn)acebook的CEO扎克伯格也遭遇被偽造，偽造者發(fā)布了宣揚(yáng)侵犯個(gè)人隱私數(shù)據(jù)的不實(shí)言論，這些事件將Facebook、隨后又將人工智能造假推向了社會輿論的風(fēng)口浪尖。

此前，常州的王某報(bào)警稱自己被裸聊詐騙11萬余元。他出于好奇，接受了一名女網(wǎng)友請他下載某軟件并提出視頻邀請，掛電話后不久，王某就收到了一段有自己頭像的不雅視頻。騙子用AI換臉技術(shù)把他的臉合成到他人的視頻上，并以此威脅其轉(zhuǎn)賬。

因此，基于深度偽造技術(shù)存在的社會風(fēng)險(xiǎn)，2020年5月28日，十三屆全國人大三次會議表決通過《中華人民共和國民法典》中第1019條規(guī)定：“任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外”。

該法規(guī)總體要求了禁止利用信息技術(shù)手段偽造的方式侵犯他人的肖像權(quán)和聲音。

與此同時(shí)，美國、歐盟、德國、新加坡、英國等國也出臺了相關(guān)的監(jiān)管政策。

“魔高一尺”更需“道高一丈”

然而，不僅要在法律層面，AI作惡要有“緊箍咒”來約束；在技術(shù)層面，“魔高一尺”還要有“道高一丈”來抗衡。

唐家渝向觀察者網(wǎng)指出，隨著人工智能的廣泛應(yīng)用，整個(gè)產(chǎn)業(yè)面臨的三大困境逐漸浮現(xiàn)：

第一是算法可靠問題。深度學(xué)習(xí)算法為黑盒，缺乏可理解的決策邏輯和依據(jù)，無法量化不同決策的可靠程度，導(dǎo)致難以應(yīng)用至金融、醫(yī)療等高可靠性要求場景；同時(shí)，基于對抗樣本攻擊技術(shù)可以破解安防監(jiān)控、手機(jī)刷臉解鎖、人臉識別閘機(jī)等識別系統(tǒng)，實(shí)現(xiàn)身份偽裝或隱身逃逸，為個(gè)人財(cái)產(chǎn)安全與社會公共安全帶來全新挑戰(zhàn)。

第二是數(shù)據(jù)安全問題。提升AI能力需要挖掘數(shù)據(jù)價(jià)值，但在特定AI應(yīng)用場景中，所需要用到的數(shù)據(jù)往往涉及個(gè)人隱私信息，簡單明文數(shù)據(jù)傳輸和利用很可能導(dǎo)致隱私泄露；而有價(jià)值的數(shù)據(jù)分散形成數(shù)據(jù)孤島，在打破數(shù)據(jù)孤島的過程中，數(shù)據(jù)用途和用量難以控制，存在被濫用和復(fù)制的可能，同時(shí)數(shù)據(jù)權(quán)屬不明確，數(shù)據(jù)收益不清晰。

第三是應(yīng)用可控問題。AI算法偏差導(dǎo)致不公平性問題，比如人臉識別算法存在種族歧視與性別歧視，AI信貸模型對特定地域人群的歧視等，缺乏有效衡量算法公平性的方法和工具；同時(shí)，AI技術(shù)的濫用引發(fā)道德倫理問題，比如深度偽造技術(shù)的濫用帶來的個(gè)人和社會風(fēng)險(xiǎn)問題。

另外，深度偽造技術(shù)檢測工作當(dāng)前面臨兩大難點(diǎn)：

一是造假算法在不斷豐富，偽造圖像越發(fā)逼真。

最初的偽造視頻其實(shí)是有一些反常識的特征的，比如一段1分鐘的視頻中，人沒有眨一次眼睛，于是我們可以基于人體的生理特征去對人物的真假進(jìn)行判定；但是自然而然地，造假者隨后也通過在視頻中隨機(jī)生成眨眼動作，很大程度上逃避了這種檢測方式。

另外，深度偽造的視頻人物，為了與背景有比較好的融合，會對邊緣進(jìn)行簡單的高斯模糊處理，而當(dāng)檢測算法基于這樣的特征進(jìn)行檢測以后，偽造算法也對人臉邊緣做了更精細(xì)化的處理。

二是利用深度學(xué)習(xí)的缺陷繞過檢測算法。

通過在圖片上添加對抗樣本噪音，可能使得偽造視頻躲避自動檢測。

他坦言：“正是由于深度偽造治理有著巨大的挑戰(zhàn)，勢必需要有著深厚技術(shù)實(shí)力和AI對抗經(jīng)驗(yàn)的團(tuán)隊(duì)，才能做出真正能落地的解決方案。”

據(jù)他介紹，DeepReal深度偽造檢測平臺算法基于大數(shù)據(jù)量進(jìn)行訓(xùn)練和測試，截至目前，數(shù)據(jù)量已達(dá)到千萬級，數(shù)據(jù)集已覆蓋三大類，包括：學(xué)術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集。

同時(shí)，通過結(jié)合貝葉斯學(xué)習(xí)框架和深度神經(jīng)網(wǎng)絡(luò)，來估計(jì)模型在預(yù)測新樣本時(shí)的不確定性。以上，有效保障了DeepReal深偽檢測算法的泛化能力。

在測試結(jié)果方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率；在實(shí)際應(yīng)用中，DeepReal的檢測準(zhǔn)確率也已達(dá)到業(yè)界頂尖水平，遠(yuǎn)超F(xiàn)acebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。

DeepReal深度偽造內(nèi)容檢測平臺檢測報(bào)告示意圖

他補(bǔ)充道：該平臺對于單張圖像的檢測耗時(shí)不到30毫秒，支持橫向擴(kuò)展與集群部署，適用于大規(guī)模實(shí)網(wǎng)落地。針對互聯(lián)網(wǎng)環(huán)境中眾多的深度偽造類型，平臺也進(jìn)行了全面的覆蓋。包括針對真實(shí)人物的面部替換、表情操縱，以及完全合成的虛假人物等。

同時(shí)，實(shí)網(wǎng)環(huán)境中的偽造視頻不斷變化，需要有強(qiáng)對抗的手段加以遏制。

他介紹道，一是使結(jié)果具有可解釋性，這樣才能真正讓人信服AI的檢測結(jié)果是可靠的：“利用貝葉斯深度學(xué)習(xí)，我們將偽造視頻的先驗(yàn)知識進(jìn)行融合，同時(shí)能夠輸出更加準(zhǔn)確的置信度，以此增加對預(yù)測結(jié)果確定性的預(yù)判；結(jié)合精細(xì)化的具有可解釋性的數(shù)據(jù)集的標(biāo)注和構(gòu)建，能夠使預(yù)測結(jié)果的確定性和可解釋性都有很大提升”。

另外，要能夠快速即時(shí)應(yīng)對新型的深度偽造類型。除了貝葉斯深度學(xué)習(xí)，還利用了小樣本增量學(xué)習(xí)的方法，使得在初期見到少量新型偽造數(shù)據(jù)時(shí)，便能迅速學(xué)習(xí)到偽造特征。

他指出：“我們對深度偽造的治理進(jìn)行了全面的技術(shù)布局。比如實(shí)戰(zhàn)環(huán)境中有音視頻數(shù)據(jù)，所以我們會利用多模態(tài)分析算法綜合分析；對抗環(huán)境中使用對抗學(xué)習(xí)技術(shù)，在部署環(huán)境中支持多模型和單模型，同時(shí)通過不確定量化和配合溯源技術(shù)提升可靠性。”

同時(shí)，為了進(jìn)一步提升檢測的可靠性，我們不僅做預(yù)測，更布局了溯源技術(shù)，進(jìn)一步對深度偽造視頻進(jìn)行具有可解釋性、可靠的綜合治理。

“雖然成績頗豐，但我們清醒地認(rèn)識到針對深度偽造的風(fēng)險(xiǎn)，一定是需要從監(jiān)管到研究再到落地實(shí)戰(zhàn)進(jìn)行全方位的治理。”最后，他呼吁：“我們積極與監(jiān)管部門、科研機(jī)構(gòu)、實(shí)戰(zhàn)部門等進(jìn)行合作，共建深度偽造治理生態(tài)。我也代表我們團(tuán)隊(duì)，誠摯邀請和歡迎社會各界機(jī)構(gòu)和企業(yè)的加入。”

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。