推特拟推出换脸视频监管政策:误导性或威胁人身安全的将删帖
时间:2019-11-12 19:48:08 热度:37.1℃ 作者:网络
11月11日,推特(Twitter)宣布将推出一个监管换脸视频Deepfake的政策,并就最终的政策条款向用户征求意见。
据路透社当天报道,推特在一篇博文的新提案中介绍,平台会在“合成或操控视频”的推文旁边放一个通知,在人们想分享该推文时提出警告,或者添加一个新闻报道链接,展示多方信源,提示用户为什么这个视频是合成或操控的。
推特还称,如果有推文发布了误导性或是威胁人身安全、导致其他严重伤害的这类视频,他们会将其删除。
上述博文的末尾,推特邀请用户参与调查,帮助平台决定这类合成视频是做出标记,还是直接删除比较好,征求意见将于11月27日截止。
Deepfake指的是用人工智能软件制作的虚假视频,由桌面应用程序FakeApp程序创建而成,FakeApp则可实现AI(人工智能)换脸。值得关注的是,随着FakeApp的出现,不懂技术的人也能简单制作换脸假视频,互联网上的假脸视频开始广泛流传。
此前,美国前总统奥巴马、Facebook创始人马克·扎克伯格为主角的换脸视频均在社交网络上出现过,在2020年美国大选前,社交网络平台面临如何应对deepfake换脸视频的压力。虽然美国目前还没有出现造成重大政治影响的换脸视频,但2019年5月,美国众议院议长Nancy Pelosi的作假视频片段已经证明合成或操纵视频很有可能引发动荡。
据科技网站TheVerge当天报道,上述事件中,Pelosi的作假视频被人工放慢了讲话的速度,让她看上去像喝醉了一般。这个视频在Facebook、推特和YouTube社交网络平台上流传,骗过了很多人。当时YouTube选择将其删除,Facebook选择将其发送给第三方事实核查人员,并在视频旁边附上相应的新闻报道,警告用户这是作假视频。Twitter没有对这个视频做出处理。
当时,Twitter还没有针对这类作假视频的相应政策,但现在公司打算对此作出改变。10月30日,推特首席执行官杰克·多西(Jack Dorsey)宣布,推特将从11月22日起禁止其平台上的所有政治广告。与之相反的是,Facebook宣布,政客投放的广告和内容可以豁免于第三方事实核查。扎克伯格的观点是,私人公司不应该有权审查政治人物。