.jpeg/e764b7822491509f81c172f3a7283342.jpeg)
（北京28日讯）随著中国应对周末登陆的台风“红霞”带来的灾后影响，官员们将痛苦地意识到，他们可能还会面临一项新的挑战：利用人工智能（AI）制作的危险误导性影片。
英国广播公司（BBC）报导，过去几个月，强风暴和洪水灾害频发，社交媒体平台上充斥著大量虚假视频，其中包括漂浮在洪水中的尸体图片、对未受影响地区严重洪灾的虚假描述，以及对应急响应工作的明显虚假描述。
在一些地区，包含停电虚假资讯的影片引发了居民的恐慌性抢购。
此外，还有一些影片利用真实事件造假。
7月初，广西衡州市发生洪水，导致数百条蛇从养殖场逃逸。随后，又有虚假图片显示鳄鱼被放生到河中。
在当前局势紧张且危险，涉及大规模疏散和复杂救援行动的情况下，当局希望避免引发恐慌。如今，他们担心中国投入数十亿美元研发的人工智能技术，正提供简单易用的工具，可能被用来欺骗大众。
故意捏造信息博取眼球
浙江省公安厅网络公安司副司长Huang Zhihua告诉中国官方媒体：“许多内容创作者利用灾难新闻来吸引粉丝，他们知道，越是耸人听闻或夸大其词的内容，就能获得更多的点赞和浏览量。他们故意捏造信息，以博取眼球。”
近几周来，已有不少人因制作虚假报导和影片内容而被捕并受到处罚，处罚措施包括拘留候审和罚款。
但专家警告，一场前所未有的假讯息危机可能正在酝酿中。
造假资讯技术门槛降低
在中共中央党校报发表的一篇文章中，Chen Bin教授指出：“人工智能大幅降低了制造虚假资讯的技术门槛。个人不再需要高深的技术技能，只需简单地使用人工智能工具，就能快速生成逼真的文字、图像、音讯和视讯……这些内容高度逼真，但完全是捏造的，而且是大规模生产的。”
华东政法大学Gao Fuping教授告诉BBC，发布此类虚假内容的动机多种多样，从“为了博取眼球而不考虑后果”的人，到“为了个人利益而制造流量”的人，再到“故意制造恐慌或社会动荡”的人。
他说：“一些用户认为网络世界是匿名且不受监管的，或者认为自己不会被追踪。”
有人呼吁对所有人工智能产生的内容进行清晰的标记，但其他用户却可以随意编辑这些内容，去除标记。
检测技术仍落后生成技术
北京师范大学Xu Xiaoke教授告诉BBC，还需要加大力度，透过时间戳验证地理位置，并核查影像来源。
他警告：“话虽如此，我还要强调，检测技术仍然落后于生成技术。我们始终处于一场猫捉老鼠的游戏。因此，我们不应想当然地认为，仅仅依靠技术就能一键识别人工智能生成的内容。”
中国政府正大力发展人工智能，试图成为全球领先的科技强国。
2017年，中国政府宣布人工智能将成为国家发展的“主要驱动力”。
大量资金涌入，人工智能企业寻求更多资本，加剧了国内竞争。新华社报导称，中国拥有超过6000家“人工智能公司”。
在这种背景下，Xu Xiaoke认为中国需要建构“可信赖的资讯基础设施”，这可能包括官方的预警系统和新闻机构可以存取的灾害资讯介面。
对政府低信任假消息易传播
然而，也曾出现过官方管道（包括政府控制的媒体）故意淡化灾害影响的情况，导致大众对此领域产生不信任。
今年7月初，当地记者被要求“淡化”措辞，将南宁附近六兰水库的重大缺口描述为“开口”或“缝隙”。
官员们似乎试图淡化缺口的严重性，但后果却造成了惨重的伤亡，决堤的洪水导致下游至少26人死亡。
2021年，河南省有地方官员因涉嫌隐瞒或少报139例死亡而被捕。
此类事件造成了信任真空，使得不法分子更容易传播假讯息。
但警方呼吁民众在紧急情况下相信权威资讯来源。
宁波市公安局的Gao Kai说：“遇到来源不明的灾害相关资讯时，要保持怀疑态度，以官方公告为准。”
他还试图安抚公众，表示虚假信息的制造者必将受到惩罚，“网络不是法外之地。公安部门将继续加大力度打击网络犯罪活动”。
“我们已成立专门工作小组，密切监控社交媒体，特别是短视频平台。他们将迅速调查并处理此类案件，严厉打击。”
如果虚假资讯造成的后果足够严重，处罚可能从罚款到最高7年监禁不等。
7月23日，中国中央网络安全和信息化委员会办公室也宣布在全国范围内打击与洪水和其他灾害相关的虚假网络内容，并指示地方分支机构重点查处捏造资料、恶意编辑、摆拍场景、歪曲历史事件以及冒充官员等行为。此外，中央网信办也呼吁社群媒体平台加强发布内容的审核。
Gao Fuping认为，“解决之道在于公众教育与执法相结合”，并表示“有必要宣传那些受到惩罚的真实案例”。
他补充表示，“人工智能产生的虚假内容造成的危害最终取决于人们如何使用这项技术，而不是技术本身”，并指出现有的法律足以应对此类问题。
然而，也有人对此持怀疑态度。Chen Bin指出，“人工智能技术的发展速度远超法律框架。随著新的法律问题不断涌现，人工智能制造的虚假资讯仍然是一个相当大的挑战”。
常驻上海和华盛顿的律师Peter Pang表示，世界各地的律师都发现，涉及此类问题的案件数量呈现爆炸性成长。
他认为，开发人工智能应用程式的公司以及用于发布虚假影片和其他内容的平台，必须与制造虚假资讯的人一起承担法律责任。
律师：首先应该追究平台责任
他告诉BBC：“首先应该追究的是平台的责任，因为它们是资讯的幕后推手。是它们允许这些资讯传播出去。”
他举了一个假设的例子：有人因为社群媒体上的假贴文引发恐慌，开车撞倒了行人。
“影片制作者可能会说：‘你撞了人，那是你的问题，不是我干的。’但让我们仔细想想。是你制造了恐慌，人们才会做出反应。既然是你制造了恐慌，你就必须为由此产生的后果负责。”
Xu Xiaoke警告：“人工智能生成的虚假信息不仅数量会增加，传播速度也会加快。”
“展望未来，政治选举、公共卫生紧急事件、武装冲突、自然灾害以及影响人们生计的问题都可能成为人工智能生成的虚假讯息传播的高风险领域。”
“政府和平台不应该等到虚假信息疯传后再去遏制，而应该提前做好准备。”
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
