暗网里
据一位行业专家称，在暗网上创建深度伪造（deepfake）的价格可能在每分钟300美元到20000美元之间。
在暗网市场上可以找到深度伪造的工具和服务，这些服务提供用于各种目的的生成人工智能（AI）视频创建，包括欺诈、勒索和窃取机密数据，这是在哈萨克斯坦阿拉木图举行的卡巴斯基网络安全周末-META 2023上宣布的。
卡巴斯基专家表示：“创建或购买深度伪造的价格可能会有所不同，这取决于项目的复杂性和最终产品的质量。”
卡巴斯基分析了各种暗网市场和地下论坛，为不同的恶意目的提供深度伪造的视频和音频。在某些情况下，个人可能会要求创造深度伪造的特定目标，如名人或政治人物。
网络犯罪分子以多种方式使用生成的AI视频进行非法活动。他们可以使用深度伪造来制作可用于欺骗个人或组织的虚假视频或图像。该公司的一位官员说：“例如，他们可以制作CEO要求电汇或授权付款的虚假视频，可用于窃取公司资金。假视频可用于创建危害个人的视频或图像，也可用于勒索金钱或信息。”他进一步补充道：“网络犯罪分子还可以使用深度伪造来传播虚假信息或操纵公众舆论。例如，他们可以制作一个政客发表有争议言论的假视频，可以用来影响选举结果。”
深度伪造技术可用于通过创建合法帐户所有者的真实虚假视频或录音来绕过支付服务中的验证。这些可以用来欺骗支付服务提供商，让他们以为犯罪分子是真正的账户所有者，从而获得对账户及其相关资金的访问。
“深度伪造越来越多地被用于勒索和欺诈。例如，一家英国能源公司的首席执行官被其母公司负责人的紧急请求转移资金的深度伪造语音骗走了24.3万美元。结果，资金被汇入骗子的银行账户。当该罪犯要求再次转账时才引起了人们的怀疑，但那时要拿回已经转账的资金已经太晚了。阿联酋也报道了一起类似案件，其中40万美元在一场涉及语音深度伪造的骗局中被盗。”卡巴斯基首席数据科学家Vladislav Tushkanov说。
“重要的是要记住，深度伪造不仅对企业构成威胁，而且对个人用户也是一种威胁：它们可以传播错误信息，用于诈骗，或在未经同意的情况下冒充某人。提高数字素养水平是应对这些威胁的关键。”他进一步补充道。
对暗网资源的持续监测为深层造假行业提供了宝贵的见解，使研究人员能够跟踪这一领域的最新趋势和威胁者的活动。通过监控暗网，研究人员可以发现用于创建和分发深度伪造的新工具、服务和市场。这种类型的监控是深度伪造研究的重要组成部分，有助于提高我们对不断变化的威胁态势的理解。卡巴斯基的数字足迹情报服务包括这种类型的监控，以帮助其客户在涉及深度造假相关威胁时保持领先地位。