（吉隆坡20日讯）大马网络安全机构首席执行员拿督阿米鲁丁阿都瓦哈表示，日益猖獗的深度伪造（Deepfake）技术，正对我国构成威胁，并呼吁民众需提高警觉，保护自身免受侵害。
“想像一下，当接到一个听起来像亲人的电话，对方焦急地向你索取钱财，但实际上，这只是人工智能（AI）技术伪造的骗局。”
他向《马新社》指出，涉及伪造声音、脸部和数字身份的欺诈案件，在近年来正不断增加，网络犯罪手段日益复杂野令人感到担忧。
他说，网络犯罪分子使用的作案手法，包括“语音克隆”，即利用人工智能模仿个人声音，通过语音信息欺骗受害者，以及利用可以将人脸用于视频中“脸部重现”技术，进行投资诈骗或传播虚假信息。
“也有一些网络爱情诈骗或交友诈骗案例，以及使用人工智能生成的面孔，创建虚假社交媒体账户。这些账户通常用于商业间谍、虚假投资和网络钓鱼等犯罪活动。”
去年，武吉阿曼商业罪案调查部总监拿督斯里南利透露，涉及深度伪造技术的诈骗案件达454起，损失金额高达227万2000令吉。
南利说，网络犯罪分子滥用这项技术模仿著名人物的面孔和声音，例如前卫生总监丹斯里诺希山、前国行总裁洁蒂和大马羽坛传奇拿督威拉李宗伟等，以欺骗受害者。
深度伪造技术主要使用生成对抗网络（GAN）分析和模仿人脸特征、表情和声音。利用这项技术，人工智能可以高精度地替换视频中的人脸或声音，使其几乎与真实录像难以区分。
新技术识别伪造内容
为了应对这一威胁，阿米鲁丁表示，当局正在采取积极措施，使用最新技术识别深度伪造内容的传播。
他说，当局数字取证部门也一直在利用人工智能和机器学习技术，来检测数字内容中的伪造痕迹。
“我们使用专门的软件对图像、视频、来源验证和元数据进行分析，以确保传播内容的真实性。通过这些技术的结合，大马网络安全机构可以更有效地应对深度伪造的威胁。”
我国未有专门法律监管
然而，我国目前还没有专门的法律，来监管深度伪造技术的使用。
阿米鲁丁说，深度伪造内容目前可援引《1998年通讯与多媒体法令》第211条文进行起诉，该条文禁止散播不雅、虚假或威胁性内容。
“政府正在考虑制定专门的法律，来监管人工智能和深度伪造技术。”
同时，阿米鲁丁表示，当局已经开展包括全国反诈骗巡回活动和国家资讯与通讯科技安全研讨会在内的各种宣传活动，以教育民众了解深度伪造等网络威胁。
“打击深度伪造的主要挑战是日益先进的技术、缺乏专门的法律和民众意识仍然薄弱。因此，民众需要更加警惕，并采取预防措施，以保护自身免受侵害。”
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
