“照骗”之后无真相

在用机器学习工具“ 开明星车 ”这件事上,最近有了一些新的进展。我们 TechCrunch 的记者泰勒·海特梅克 (Taylor Hatmaker) 近日 报道 ,Reddit 发布了新的内容条款,禁掉了这种伪造色情内容,并关闭了相关的交流版块。而 Pornhub 和另一些媒体平台也在最近几周内出台了类似的规则。

然而,人造黄片只是内容造假的开端。本周早些时候,政治学者亨利·J·法瑞尔(Henry J. Farrell)和《尼克松禁地》(Nixonland,暂译)作者里克·珀斯坦(Rick Perlstein)在《纽约时报》的专栏里发表了一篇标题为 《黑化政坛》 的文章。在文中的反乌托邦社会里,挑拨者可以通过伪造其性侵未成年人的视频诬陷党派候选人。作者担心,“伪造的音视频可能会变得更加真假难辨,使得这些证据逐渐失去应有的法律效力。”

在一个以内容推断为事实依据的民主社会里,我们可以很快适应要靠真凭实据论断的日子。一如我们置身专制社会时需要时刻提防任何“大好景象”一样。然而,当初创公司,科技企业以及政党乃至政府都要面对这个问题时,它就没有看上去那么简单了。

Reddit 早晚要面对这样的处境:一段政客同未成年人发生性关系的渣画质视频上传到了这里(趁热再用一次这个假设)。视频的真实性无从可考,而且也没有明显的篡改痕迹,尽管真的可能只是伪造的。这时 Reddit 要怎样去处置呢?出于安全考虑,它会去禁掉可能是“世纪政治丑闻”的所谓“证据”么?

这却仅仅只是它的表象。理清它的细枝末节,需要我们进行上述案例之外更深一步的探讨。设想专制政权的异见人士用手机录下了前者为保护政权而大规模屠杀反抗市民的暴行视频。随后,这个现场实录的视频被匿名上传到了网上。

它的突然出现让这个被虚妄统治的社会有些措手不及——这段视频到底是什么来头?反对派用伪造视频的方式吸引媒体注意并非无稽之谈。而执政政权所公示的视频画面里的街道干净整洁,并无异样。反对派的信众也可以同样去相信执政政权,至于已经站在另一边的人士则会继续坚持自己的看法。原始视频自然无法令人信服了。

在我看来,这里最可行的解决策略将是:为视频构建一个加密且可溯源的“监视链”(没错,我指的正是某种“区块链”)。假如之后所有的视频都不可信,那就用加密技术生成让每一个特定部分都可追溯源头的元数据。实际上,已经有诸如 Prover.io 这样的初创公司把目光瞄向了这块市场,通过 提供视频验证服务 从而精准把控上述问题的出现。

而此时唯一的问题就只剩这些链的先允条件——身份(或者说是设备)鉴别了。毕竟我们正在尝试的是“监视链”,需要去了解这些视频源自哪里。当然这些信息对专制政权则更为重要,它很乐意知晓对面的“开枪者”是谁,并且给予(真正的)反击。

或许视频创作者可以筛选把控元数据的鉴别者,在政府无从知晓的情况下把视频提供给“纽约时报”们。或许“监视链”可以匿名使用,从而能够保护异见者。然而,请注意,我们所努力的是证明视频的真实可靠,那些每一个试图混淆创作者身份的行为都是反抗政权的举动。

另一个可行的泛用策略是使用认证程序,通过滤查视频的方式鉴别其是否经过伪造。机器学习可能会在这一领域大放异彩,虽然它并不能保证每一块像素都真实无误。我们已经有了足够多的方法鉴别某种特定图片是否被“PS”过。之后,我们或许很快就能掌握分辨影像是否被机器学习工具处理过的算法。

我认可这种技术会会继续存在,但它会展现出更大的潜力么?Politifact 上为政客所(滥)用的 “Truth-o-Meter” 是一个经过验证的,公正客观的第三方认证服务。它足够优秀,但却不能阻止政客们把事实证据用作歧途,并且也无法阻止他们的选举造假。所以,为什么我们会如此认为这种认证程序会比人们的所见更有力呢?

另一方面,用来阻止这种伪造视频传播的政治举动同样令人困窘。这些视频背后所运用的技术有很多合法的用途,如好莱坞特效制作等等。从这一点来说,禁掉它们是没有意义的。而管控这些用途同样徒劳。很多视频都是匿名制作而成,并且可以肆意传播,使得强制胁迫更加不可能。言论自由(至少就美国来说)也会为它们开绿灯。只需把“诽谤”替换成“艺术”或者“讽刺”就能让人无从辩驳。

或许良好的教育可以提高我们对这类视频的抗性。或许造假并不会像我们想象的这样高明。或许可以通过过滤垃圾内容的方式挽回我们对这些媒介的信任。或许吧。

但就现在来说,更多的可能是我们不得不去接受与我们朝夕相处的文字、图像乃至影音已经遭到了篡改,甚至完全伪造的事实。于我们而言,于初创企业的负责人而言,于整个生态体系的所有其他人而言,我们都正准备着手协助民主的长治久安。然而,人造黄片和假新闻早已在此等候,我们却仍未找到趁手的抗击武器。

The real consequences of fake porn and news

Via: http://techcrunch.cn

华为云优惠多多,更有新用户低至4折,欢迎点击此处或者扫码进入

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: