来自科技的又一个危险：AI学会了伪造卫星地图
导读：“如果我们不对深度伪造地理的问题有所警惕，那么我们将进入到‘假地理’反乌托邦的危险之中。”
深度伪造（Deepfake）有了一条新“赛道”——伪造卫星地图。
上述论文的第一作者赵博（Bo Zhao）是美国华盛顿大学地理专业的助理教授，他在接受《The Verge》采访时表示：“当很多地理信息系统的从业者在赞赏人工智能技术，看到它在解决地理问题上的优势时，很少人会承认或公开批评人工智能的深度伪造是一个潜在危险。”
在研究中，赵博和团队用实证证明深度伪造卫星图片在技术上是可行的。他们选取了三个城市的卫星地图，分别是美国的西雅图市和塔科马市，以及中国的北京市，三个城市卫星图像在绿地面积、街道宽度等均有所差异。人工智能系统会学习西雅图和北京的城市景观特征，以塔科马市为基础数据集，进而生成一张假地图。
人工智能深度伪造的流程
结果显示，经过200个周期的训练后，人工智能系统能成功生成一张在地球上不存在的塔科马市卫星地图。虽然这张假卫星地图不算完美，它的色彩指数要少于真实地图，纹理更加复杂和不均衡，但看起来依然很真实，且肉眼难以识别。
研究人员认为，与一般的图片和视频相比，深度伪造的卫星地图更具迷惑性，因为观看者很容易把地图上不自然的地方归因于图片质量不高，且一般卫星地图不需要高清，便足以具有说服力。“由于大多数卫星图像是由专业人士或政府产生的，所以公众通常更愿意相信它们是真实的。”研究者赵博说。
a：塔科马市的基本数据图；b:塔科马市的真实卫星地图；c和d分别是基于西雅图和北京景观伪造出的塔科马市地图。图片来源：https://www.washington.edu/
当人工智能学会了深度伪造卫星地图后，它们能被用来做什么？
研究人员认为，恶意伪造地图的情形能有很多，例如可以伪造山火或洪水的场景，同时伪造卫星地图的存在，也使得真实卫星地图的可信性变弱——当有人指称地图是伪造的时候，普通人难以用肉眼作分辨，也难以判断该相信谁。2019年时，美国政府下属的国家地理空间情报局分析师还指出，深度伪造的卫星地图可能会误导军方的战略部署，例如军事训练会被虚构出的不存在的地标误导。
“随着技术的不断发展，这项研究旨在鼓励人们对地理数据和信息有更全面的理解，揭开卫星图像绝对可靠的表象。”赵博表示，他的研究目标是提高公众对深度伪造地图的认识，人们需要先意识到这个风险的存在，才能更好地应对这个新问题。
一张卫星地图
面对深度伪造地图的问题，最关键是要有检验地图真伪的应对技术。论文中也指出，现时技术上对虚假地图的分析是“二进制结果”，即完全真实或完全虚假，针对真假糅合的地图，技术上无法挑出地图中虚假的地方。如果想训练出能在地图上“挑假”的系统，则需要建立一个更全面的卫星图像数据库，再针对性地训练一个包含各种真实和虚假卫星图像场景的数据集。
此外，由于现实世界中景观特征的复杂性和深度伪造方法的多样性，几乎不可能存在一个通用的地图真伪鉴别系统。
赵博认为，地理学研究者应该着手开发能提供给公众使用的鉴别系统，这种系统类似于现时的网络信息事实核查工具。对公众来说，如同媒介素养一样，地理空间数据的素养也非常重要，人们应了解虚假地理信息对社会的影响。
“如果我们不对深度伪造地理的问题有所警惕，那么我们将进入到‘假地理’反乌托邦的危险之中。”研究团队警告道。
