吉隆坡，12月6日——警方对犯罪集团越来越多地使用人工智能(AI)进行深度伪造、语音欺骗和金融市场操纵等恶意目的表示担忧。
在《星报》今天的一份报告中，联邦商业犯罪调查部(CCID)主任拿督斯里·拉姆利·穆罕默德·优素福(Comm Datuk Seri Ramli Mohamed Yoosuf)表示，最近一段深度伪造的视频显示，一名马来西亚领导人据称支持一项快速致富计划，这是这种人工智能操纵的一个明显例子。
“视频中的承诺好得令人难以置信，这意味着它绝对是一个投资骗局，一个政治领导人不可能推动这样的事情。这是荒谬的。
“虽然这段视频是关于快速致富的，但还有其他方面也可以被类似地操纵，尤其是在政治和社会工程方面。
“人工智能已经存在，正因为如此，不仅对警方来说，而且对公众来说，意识到人工智能在不久的将来可能带来的潜在风险是很重要的。”
“今天的世界已经表明，人工智能如何越来越多地接管以前由人类完成的任务和角色。
他说:“虽然我们中的一些人可能知道这一领域的进步，但其他人可能仍然没有意识到人工智能迅速发展所带来的潜在风险。”
Ramli还表示，警方预计，早在2024年中期，犯罪集团就会在针对马来西亚人的非法活动中使用人工智能。
“一旦发生这种情况，金融领域的一切，所有已经上线的服务，都可能面临被渗透的风险。
他告诉《星报》:“人工智能可以用来创建能够入侵计算机系统的算法，而其他算法也可以用来分析数据和操纵结果，这使得它有可能被用来影响或削弱金融市场。”
他进一步强调，人工智能可以在复杂的视频和音频操作中发挥作用，带来潜在的身份盗窃和深度假视频制作等风险。
“在这种情况下，可能性是无限的，因为犯罪集团可以使用深度伪造的图像、视频或声音来欺骗个人和组织。
新闻媒体援引他的话说:“他们可以利用这种深度造假来伪造绑架勒索案件，让家人相信他们绑架了亲人，有些人甚至可以利用它来制作受害者的淫秽或色情图片，然后用来勒索他们。”
他还说，通过使用照片或视频制造有说服力的假身份，犯罪集团可能会冒充个人，骗取钱财或欺骗受害者，使其相信家庭成员处于危险之中。
拉姆利说，这也可能被用来传播宣传和虚假信息，这可能会加剧公众的焦虑。
“有迹象表明，人工智能可能被用来实施经济犯罪。
人工智能科学家也在谈论量子计算，它将使解密成为可能，从而使目前所有的二进制加密技术都变得无用。
他对《星报》表示:“我们一直在关注该地区利用人工智能犯罪的最新消息，并注意到今年早些时候在香港发生的一起案件，一个犯罪集团涉嫌在贷款申请中使用人工智能深度造假技术。”
Ramli接着说，尽管到目前为止还没有报道涉及人工智能直接应用的商业案例，但他并不否认它在未来成为一个重大问题的可能性。
“这就是为什么公众需要做好准备，了解这些事情。
“公众对抗人工智能的最佳武器是知识和意识。
他说:“如果公众普遍意识到人工智能的用途，他们就会格外谨慎，不会轻易被采用这种策略的集团所欺骗。”
8月25日，《香港自由报》报道，香港特别行政区警方破获一个犯罪集团，利用8张被盗身份证提交90份贷款申请，并注册54个银行账户。
在该地区的一个开创性案例中，深度伪造技术至少被使用了20次，以模仿身份证上描绘的个人，欺骗面部识别程序。
据报道，有6人因与欺诈活动有关而被捕。
