以色列与哈玛斯开战以来，加萨走廊炸毁的房屋和街道照片，有些画面极度恐怖，如浴血弃婴，这些影像是利用 AI 深伪技术合成，网路有数以百万计浏览量。
美联社报导，如果仔细观察会发现破绽，如手指弯得很怪，或眼睛闪烁不自然光芒，这些都是数位欺骗的迹象。
然而，制造这些影像激发的怒火，都是非常真实的情绪。
以色列与巴勒斯坦武装团体「哈玛斯」（Hamas）战争相关照片生动且强烈突显人工智慧（AI）成为宣传工具的潜力，创造逼真屠杀影像。10月以哈战争爆发後，社群媒体流传的数位修图常制造伤亡究责的不实说法，或欺骗民众有暴行但从未发生。
虽然网路流传不实说法大多不需动用AI，而是更传统来源，但科技进步也让频率变高，且几乎没有监管机制。这使AI成为另类武器的潜力更明显，让人一窥未来冲突、选举和其他重大事件持续发生的状况。
总部设於旧金山和巴黎的科技公司CREOpoint利用AI评估网路说法的正确性，执行长戈登斯坦（Jean-Claude Goldenstein）表示：「情况会恶化，变得更糟，之後才会好转。」这家公司建立资料库，储存加萨走廊（Gaza Strip）最疯传的「深伪」（Deepfake）内容，「有了生成式AI，照片、影片和音档将前所未见『升级』」。
某些案例，其他冲突或灾难照片重新利用，冒充成新照片。另有生成式AI程式「无中生有」创造新影像，如有个婴儿在轰炸残骸哭泣的影像在冲突初期迅速流传。其他AI生成影像例子如据称是以色列飞弹袭击的影片，或战车驶过摧毁社区、家属在瓦砾堆搜寻生还者的影片。
许多案例，假照片目的似乎是要激起强烈情绪反应。血腥冲突初期，以色列和哈玛斯支持阵营都指对方伤害孩童和婴儿，哭泣婴儿的深伪影像马上出现当成「证据」。
追踪战争假消息的非营利组织「对抗网路仇恨中心」（Center for Countering Digital Hate）执行长阿迈德（Imran Ahmed）表示，制作这类影像的宣传者善於瞄准人们最深层的冲动和焦虑。影像愈令人厌恶，网路用户就愈有可能记住并分享，不知不觉成为假消息传播的帮凶。阿迈德说：「假消息目的就是让你参与。」
俄罗斯去年入侵乌克兰後，网路也开始流传类似AI生成欺骗性内容。经修改的影片似乎显示乌克兰总统泽伦斯基（Volodymyr Zelenskyy）下令乌克兰人投降。这类说法直到上周都还在流传，显示即使很容易揭穿的错误资讯也能持久流窜。
每当有新冲突或选举季节，假消息传播者又有机会展示最新AI进展。许多AI专家和政治学家对来年风险发出警告，届时有多国举行重大选举，包括美国、台湾、印度、巴基斯坦、乌克兰、印尼和墨西哥。
AI和社群媒体可能向选民传播谎言的风险引发美国两党议员担忧。维吉尼亚州民主党籍联邦众议员康诺里（Gerry Connolly）在最近深伪技术危险听证会表示，美国必须资助研发目的是对抗其他AI的AI工具。世界许多新创科技公司正在开发新程式，协助揪出深伪影像、影像添加浮水印以证明来源，或扫描文字验证任何可能AI介入的似是而非说法。
电脑科学家多尔曼（David Doermann）表示，虽然这种技术有前景，但利用AI撒谎的不肖人士往往领先一步。多尔曼曾在美国国防先进研究计画局（DARPA）协助因应AI操纵影像构成的国安威胁。
现为大学教授的多尔曼表示，若要有效因应AI假消息构成的政治和社会挑战，需要更优秀技术和监管机制、自愿性产业标准及投资数位素养计画，帮助网路用户分辨真假，「侦测并试图将这些内容撤下不是办法，我们需要更好的解决方案」。
（译者：卢映孜；首图来源：shutterstock）