AI造假vsAI打假终结“猫鼠游戏”不

AI造假与AI打假：终结“猫鼠游戏”并不仅仅依赖技术进步的竞赛

随着人脸识别等生物识别技术的普及，深度伪造技术亦应运而生。这种借助机器学习系统、图像视频和音频内容改变现实呈现的方式，给我们带来了全新的视觉体验。随之而来的社会问题亦愈发凸显。图像篡改变得越来越容易，假图片、假新闻等在网上泛滥，人们的信任正在被瓦解。正如俗话所说，“眼见为实”，但如今，我们还能相信自己的眼睛吗？

深度伪造技术（Deepfake）是AI发展到一定阶段的产物。随着这种技术的日趋成熟，假视频越来越逼真，从电影特效到网站的“一键脱衣”，再到模仿声音的声音合成系统，其应用领域广泛，商业价值巨大。一旦被不法分子利用，将会给个人和社会带来巨大风险和挑战。

Deepfake技术让虚假信息如虎添翼，尤其在重大社会事件中，其影响力不可小觑。据相关文献显示，美国大选期间，每个网民都可能接触到假新闻。而在新冠肺炎疫情期间，更有造假者利用此技术伪造钟南山院士的发言。这些虚假信息不仅可能影响人们的决策，还可能影响社会稳定。

为了应对这一问题，谷歌等公司开始运用AI技术来揪出假视频。谭茗洲介绍，目前图像篡改类型主要分为四大类，而检测方法主要分为手工特征方法和深度学习的方法。近日，谷歌母公司Alphabet旗下的Jigsa等机构开发了名为Assembler的实验平台，旨在帮助应用者快速识别Deepfake，减少AI技术的滥用伤害。

这个平台集成了多个图像检测器，每个检测器都针对特定类型的图像进行处理。例如，有的检测器可以判断图像是否有复制粘贴的痕迹，主要关注图像的颜色、噪点等；有的则针对人脸进行PS检测。这是一个永无止境的技术竞赛，每一场技术进步都会引发新的安全问题，需要我们持续投入和关注。

仅靠技术的进步并不能完全解决这一问题。我们需要更广泛的合作和更深入的探索，包括在制度建设、法律法规、道德等方面做出改变。这是一个复杂的问题，需要我们全社会的共同努力才能找到解决方案。我们不能只依赖技术，我们还需要依赖我们的智慧、道德和法律。只有这样，我们才能在这场“猫抓老鼠的游戏”中取得胜利，真正终结这场技术与道德的竞赛。在这个数字化的时代，对于媒体行业来说，如何识别虚假视频和信息成为了一个重大的挑战。曹娟专家深入剖析了目前面临的技术挑战，也揭示了这个问题的紧迫性。具体地，媒体处理图像时常常面临低分辨率的图像问题，这要求检测技术在底层算法的基础上结合高层语义算法来识别，以捕捉篡改痕迹。曹娟进一步指出了现有检测方法的三个主要局限性：通用性不足、对抗能力弱和计算资源消耗大。这些局限性让检测虚假视频变得更为困难。为了应对这些问题，建立一个保证信息真实性的生态体系显得尤为迫切。对此，专家建议相关部门制定相关的管理制度，特别是在新闻视频和内容管理方面；同时建立过滤机制和溯源技术，以实现高效过滤和追踪虚假视频音频的来源。值得一提的是，国际咨询公司Gartner已经预测到互联网虚假信息可能带来的危害，并指出基于人工智能技术的造假能力可能会超越现有的检测能力。研发更为先进的检测技术显得尤为重要。目前，国内外众多企业和研究机构都在积极研发实用的图像篡改检测工具和平台。《网络音视频信息服务管理规定》的发布也强调了技术保障在音视频鉴别中的重要性。我们需要加强技术创新和研发资金的投入，以应对这一挑战。未来，随着技术的不断进步和创新，我们期待能够建立一个更为完善的信息生态系统，确保信息的真实性和可靠性。在这个生态系统中，各种技术和工具将协同工作，共同抵御虚假信息的传播和扩散。这将是一个充满机遇和挑战的未来领域，需要我们共同努力和探索。