深度学习和伪造组成的混合词,指利深度学习(人工智能的一种技术)进行影像合成以 伪造影像。随着深度伪造的技术愈趋成熟,只要一部 智能手机和一个app 已经可轻易将某人甚至
深度伪造
0
深度学习 (Deep learning) 和伪造 (fake) 组成的混合词,指利深度学习(人工智能的一种技术)进行影像合成以伪造影像。随着深度伪造的技术愈趋成熟,只要一部智能手机和一个app 已经可轻易将某人甚至动物的脸移花接木至现有的影片上,甚至改变口形,效果几可乱真。
这个用Avatarify 手机app制作的「蚂蚁呀嘿」短片(原曲为罗马尼亚组合 O-Zone 2003年的作品《Dragostea Din Tei》)在内地风靡一时。 (图片来源:互联网)
深度伪造技术亦扩展至语音层面。现时的人工智能技术只需撷取你五秒钟的对话,足可以模拟你的声音创造不同对话。有了影像和声音的深度伪造技术,便可以虚构出一条从来不存在的影片。
深度伪造带来的风险
随着深度伪造技术普及,眼见未必为真,有图有片亦不一定有真相。根据英国伦敦大学学院于2008年发表的一份研究指出,深度伪造被评级为最具威胁的人工智能犯罪隐患。以下是其中一些深度伪造可能会被滥用的情景:
身分盗用
曾有骗徒伪造一家能源公司首席执行官(CEO)的声线,指示下属将金钱转账至第三方银行户口而导致超过200万港元损失。
勒索
不法分子伪造影片,藉威胁公开发布片段损害名声以向受害人勒索金钱。
发布色情物品
一般来说,深度伪造的色情物品会把色情片主角的头像转换成女艺人的头像。另外,也有部分属于「报复式色情」(Revenge porn),即未经当事人同意下把该人的头像转成情色片主角以损害其名声。
侵害知识产权和个人私隐
虽然香港法例并没有订定肖像权,但未经版权拥有人同意窜改影像片段可以会干犯《版权条例》,而采集载有他人影像相片的目的是辩识个人身分,该收集和使用他人的个人资料也会受《私隐条例》规管。
虚假新闻
政客的头像经常成为网民「恶搞」的对像,但一般读者未必有能力分辨真伪。因此,政客利用深度伪造去制造假信息和舆论的威力往往会很大。
由于应用深度伪造的门槛不断降低,而「制成品」的像真度也愈来愈高,有科技企业已开始研究自动辨识深度伪造的方法,以人工智能对抗人工智能;而多国正研究从立法及业界规管等不同方向,应对深度伪造带来的道德和法律问题。
你可能感兴趣
人工智能是一種讓機器模擬人類智慧的技術。早在上世紀五十年代,已有科學家提出製造能夠模仿人類學習、決策和解決問題的機器。經過數十年發展,不同AI技術已經逐漸成熟…
香港金融管理局(金管局)于2021年中公布「金融科技2025」策略,鼓励业界全面…
互联网无远弗届,蕴藏着海量信息。网上有多少信息能被大众接触到?从信息触及性…
本网进行过简单测试,发现包括最新版本的苹果iOS系统均会把不在通讯录的本地发…
元宇宙概念源自美国小说家尼尔.史蒂芬森(Neal…
NFT是新兴另类虚拟资产投资,常见的NFT包括数码图像、影音、及短片等等,并透…
大家网上浏览时,都会见过「HTTP404」或「找不到」的版面。其实这是HTTP…
随着流动科技及云端运算技术日渐成熟,加上金融科技迅速发展,现在电子支付及流…
在电脑世界中的Cookie是储存在你的电脑或手机内的一个文件档案,让伺服器辨认你…
很多网站和流动应用程式均会收集你的个人资料和喜好,以提供更个人化的体验和服…
于2008年,一位自称中本聪的人士在网络上发表了一篇论文介绍一个点对点电子货币…
虚假资讯指为伤害个人或社会而故意制造的虚假信息。这些信息可能是完全虚构、部…
物联网就是通过互联网把现实和虚拟世界的装置及设备连接在一起,成为资讯社会…
云端运算指透过互联网取用的伺服器软件及硬件资源(例如资料存取、运算能力、网络…