IT思维

公众号/AI前线

From: FastCompany; 作者：Iris

在2020年美国总统大选之前，随着网络虚假信息的扩散等与数字攻击相关的威胁日益突出，谷歌Jigsaw研究小组正在介入，以找出被恶意修改编辑的图像。小组发布了一组视觉虚拟信息探测器，帮助核查人员和记者进行图像识别。这些工具将被发布在平台上，平台同时也为研究人员利用不同检测技术上进行合作提供了便利。

不久前，谷歌公司宣布了名为《Current》的研究出版物，人们可以在刊物上了解虚假信息的定义和影响、Jigsaw及其合作伙伴努力打击虚假信息的故事。“我们希望能与在前线打击造谣行为的人一同工作，尤其是在政治敏感领域，我们得继续前进，如此才能打造和运输虚拟工具以解决更多技术问题，”Jigsaw的首席执行官Jared Cohen说，“这是个棘手的大问题。”

厚积薄发，Jigsaw的技术开发历程

Jigsaw最初是由Alphabet Inc.执行主席Eric Schmidt在2010年建立的谷歌政策机构(Google Ideas)所拆分而来的，他将其描述为一个研究技术和地缘政治交叉问题的“智囊/执行库”。Jigsaw的名字意为“拼图”，“这是为了形容摆在我们面前的物理和数字挑战上的复杂难题。”施密特解释说。这个名字还反映了公司的信念，即“协作解决问题会产生最佳解决方案”。

不久后该智库便转变为名为Jigsaw的独立技术孵化器，负责处理各种与网络相关的问题，例如ISIS出于恶意目的使用网络对国际政治进行攻击。Jared Cohen表示，该孵化器的虚假信息处理工作此前一直处在保密阶段，而现在正是揭开这层神秘面纱的好时机。

Jigsaw主页

一年多来，Jigsaw一直在悄悄地研究如何利用人工智能方法对抗恶意造假和其他形式的篡改图像的行为。Jared Cohen在一篇博客文章中解释道，Jigsaw孵化器主要通过一个名为Assembler的开放研究平台，借助平台提供的一组实验性检测工具，以测试技术如何帮助核查人员和记者识别和分析受操纵的媒体信息。

Assembler具备 7 个检测器，其中 5 个由Jigsaw和学术合作伙伴共同开发，分别负责检测经不同技术处理过的照片，例如合成、擦除、亮度调节等。这些不同类型的操作留下的更改痕迹，在图像分析后，都可能被学习过大量案例的计算机程序标记出更改痕迹，如色彩模式异常以及图像是否由多个摄像头模型所创建等。它们能够利用计算机视觉人工智能来显示某一图像被特定操作类型编辑的概率，甚至会甄别出图像区域被多次复制粘贴以改变其信息的细节。

值得一提的是，Jigsaw在Assembler平台上专门开发了检测器来识别深层伪造(deepfake)——深层伪造能够用人工智能来操纵图像或视频，这也就是近两年引起热议的“AI换脸”，这一伪造技术的运用往往都带有政治倾向。该工具被称作StyleGAN，它借助两个独立神经网络来识别人工智能制造的图像特征，其准确率也越来越高。除StyleGAN之外，对于另一个工具，Jigsaw称之为“集成模型”，目前，Jigsaw正在使用来自平台上的每个独立图像扫描仪提供的数据对该模型进行测试，以便其能够在分析图像的同时进行多种操作。

智能检测器使用示意图

来自马里兰大学(University of Maryland)、那不勒斯费德里科二世大学(University Federico II)和加州大学伯克利分校(University of California, Berkeley)的专家都贡献了检测模型。Assembler平台给予了让检测技术的研究人员可以相互协作的绝佳空间。

Jigsaw的优良表现引起了世界范围内各信息相关业界的关注。一些分布在世界各地的新闻编辑室，包括法新社(Agence France-Presse)、墨西哥出版物《动物政治报》(Animal Politico)和《非洲代码》(Code for Africa)在内，现在都在测试这种Assembler上的工具，它们的反馈会循环回到开发过程中，帮助记者顺利举报被篡改的图片。对此，Jared Cohen说道：“对于记者，尤其他们的职业特殊性，我们希望能够提供一些额外的信息信号，帮助他们更准确地辨别他们所看到的图片是否真实。”

Google旗下专属杂志

《Current》迎来首发

除了工具开发工作，Jigsaw还在平台上发布了新网络出版刊物，名为《Current》，它将被用来展示其正在进行的一系列课题研究。在第一项课题研究中，它展示了虚假信息运动的架构、背后的策略和技术，以及如何使用智能工具来检测和拦截虚假信息。

目前，第一版刊物还将使用一种名为Disinformation Data Visualizer的新工具，它可以直观地绘制出来自大西洋理事会(Atlantic Council)的DFR实验室的研究报告，内容是“在全世界范围内找出虚假信息宣传”，并显示出使用的具体策略和受影响的国家。Cohen表示，Jigsaw希望能通过刊物来分享这些信息，“以便就最有效、最全面的反虚假信息措施展开行动。”

Google Ideas数字攻击地图

《Current》杂志还将推出多种分类，Jigsaw可以定期在多个领域与刊物上发表研究成果。Cohen说：“我们的主要动机是创造这样一个大平台，让人们可以接触到更多专家、独立研究人员和处于处理这一问题第一线的核查人员与记者。”