周二,微软展示了两款打击深度造假的新电脑程序。该公司表示,它的新应用程序将能够识别通常很难检测到的被操纵的视频,并告诉人们他们正在查看的媒体是否可能是真实的。
微软表示,它的新技术将被内置到面向企业的Azure服务器技术中。内容制作商将能够向微软发送他们视频的“哈希”指纹,天辰游戏平台这将反过来帮助人们确认媒体是否可能被操纵。
“虚假信息有很多种形式,没有一种技术能够解决帮助人们破译真实和准确信息的挑战,”公司客户安全和信任副总裁汤姆·伯特(Tom Burt)和首席科学官埃里克·霍维茨(Eric Horvitz)在一篇博客文章中表示。
该公司还创建了一个名为SpotDeepfakes.org的网络游戏,要求人们识别deepfakes.org。
微软的努力是科技专家对深度造假的危险发出警告的最新一例。这项技术是由电脑操纵的视频或音频记录的简写,用来表达或显示用户想要做的任何事情。这项技术越来越容易使用,也越来越难以发现,这为潜在的对政治和选举的灾难性干预创造了机会。
今年7月,天辰游戏麻省理工学院(Massachusetts Institute of Technology)发布了一段深度伪造的理查德·尼克松(Richard Nixon)总统发表演讲的视频和音频,夸大了这种担忧。尼克松实际上从未发表过演讲。“这个项目显示了错误信息的危险,”麻省理工学院高级虚拟中心当时说。“通过创造这段另类历史,该项目探索了虚假信息和深度造假技术在当代社会的影响和普遍性。”
为了打消这些顾虑,微软推出了“捍卫民主”计划。该公司开发的另一款应用程序是ElectionGuard,这是一款新的投票机软件,旨在快速识别黑客企图。
微软表示,其新的deepfake程序是在微软研究部门、负责任的人工智能团队、以及在工程和研究委员会中的伦理和影响内开发的。