深度學習和偽造組成的混合詞,指利深度學習(人工智能的一種技術)進行影像合成 以偽造影像。隨著深度偽造的技術愈趨成熟,只要一部智能手機和一個app 已經可輕易將某人甚至動物的臉移花接木至現有的影片上,甚至改變口形,效果幾可亂真。
深度偽造
深度學習 (Deep learning) 和偽造 (fake) 組成的混合詞,指利深度學習(人工智能的一種技術)進行影像合成以偽造影像。隨著深度偽造的技術愈趨成熟,只要一部智能手機和一個app 已經可輕易將某人甚至動物的臉移花接木至現有的影片上,甚至改變口形,效果幾可亂真。
這個用Avatarify 手機app製作的「螞蟻呀嘿」短片(原曲為羅馬尼亞組合 O-Zone 2003年的作品《Dragostea Din Tei》)在內地風靡一時。(圖片來源:互聯網)
深度偽造技術亦擴展至語音層面。現時的人工智能技術只需擷取你五秒鐘的對話,足可以模擬你的聲音創造不同對話。有了影像和聲音的深度偽造技術,便可以虛構出一條從來不存在的影片。
深度偽造帶來的風險
隨著深度偽造技術普及,眼見未必為真,有圖有片亦不一定有真相。根據英國倫敦大學學院於2008年發表的一份研究指出,深度偽造被評級為最具威脅的人工智能犯罪隱患。以下是其中一些深度偽造可能會被濫用的情景:
身分盜用
曾有騙徒偽造一家能源公司首席執行官(CEO)的聲線,指示下屬將金錢轉帳至第三方銀行戶口而導致超過200萬港元損失。
勒索
不法分子偽造影片,藉威脅公開發布片段損害名聲以向受害人勒索金錢。
發佈色情物品
一般來說,深度偽造的色情物品會把色情片主角的頭像轉換成女藝人的頭像。另外,也有部分屬於「報復式色情」,即未經當事人同意下把該人的頭像轉成情色片主角以損害其名聲。
侵害知識產權和個人私隱
雖然香港法例並沒有訂定肖像權,但未經版權擁有人同意竄改影像片段可以會干犯《版權條例》,而採集載有他人影像相片的目的是辯識個人身分,該收集和使用他人的個人資料也會受《私隱條例》規管。
虛假新聞
政客的頭像經常成為網民「惡搞」的對像,但一般讀者未必有能力分辨真偽。因此,政客利用深度偽造去製造假資訊和輿論的威力往往會很大。
由於應用深度偽造的門檻不斷降低,而「製成品」的像真度也愈來愈高,有科技企業已開始研究自動辨識深度偽造的方法,以人工智能對抗人工智能;而多國正研究從立法及業界規管等不同方向,應對深度偽造帶來的道德和法律問題。
你可能感興趣
人工智能是一種讓機器模擬人類智慧的技術。早在上世紀五十年代,已有科學家提出製造能夠模仿人類學習、決策和解決問題的機器。經過數十年發展,不同AI技術已經逐漸成熟…
於2008年,一位自稱中本聰(的人士在網絡上發表了一篇論文介紹一個點對點電子貨…
隨著流動科技及雲端運算技術日漸成熟,加上金融科技迅速發展,現在電子支付及流…
互聯網無遠弗屆,蘊藏著海量資訊。網上有多少資訊能被大眾接觸到?從資訊觸及性…
本網進行過簡單測試,發現包括最新版本的蘋果iOS系統均會把不在通訊錄的本地發…
物聯網就是通過互聯網把現實和虛擬世界的裝置及設備連接在一起,成為資訊社會…
元宇宙概念源自美國小說家尼爾.史蒂芬森(Neal…
NFT是新興另類虛擬資產投資,常見的NFT包括數碼圖像、影音、及短片等等,並透…
大家網上瀏覽時,都會見過「HTTP404」或「找不到」的版面。其實這是HTTP…
香港金融管理局(金管局)於2021年中公布「金融科技2025」策略,鼓勵業界全面…
在電腦世界中的Cookie是儲存在你的電腦或手機內的一個文件檔案,讓伺服器辨認你…
很多網站和流動應用程式均會收集你的個人資料和喜好,以提供更個人化的體驗和服…
虛假資訊指為傷害個人或社會而故意製造的虛假信息。這些信息可能是完全虛構、部…
雲端運算指透過互聯網取用的伺服器軟件及硬件資源(例如資料存取、運算能力、網…