暗网里
身份安全公司Transmit Security最近发布的一份报告揭示了欺诈者使用生成式人工智能 (GenAI) 进行复杂欺诈活动的情况。这份名为《GenAI 驱动的威胁形势：Transmit Security 研究实验室的暗网报告》的报告是该公司欺诈分析师团队深入调查的结果。调查结果强调了自 ChatGPT 出现以来暗网市场和欺诈工具的重大变化。
报告强调了 FraudGPT 和 WormGPT 等黑帽 GenAI 平台的激增，这些平台易于访问，并且只需要很少的技能即可使用。这些工具甚至使新手欺诈者也能以惊人的速度和规模实施高级攻击。Transmit Security 亚太和日本地区副总裁 Richard Metcalfe 强调，必须采取统一的方法来有效打击这些新兴威胁。
“AT&T 的泄密事件凸显了统一的客户身份、身份验证和欺诈预防方法的迫切需求，”Metcalfe 表示。他补充道，“通过消除孤岛并在整个旅程中保持对客户的上下文视图，金融机构可以显著减少漏洞和漏洞，并提高对这些骗局的检测和预防能力。”
报告概述了 GenAI 工具的各种功能，这些功能改变了网络欺诈的格局。其中一项关键功能是自动渗透测试，它使欺诈者能够快速识别和利用企业系统中的漏洞。另一项功能是创建合成身份；使用 GenAI，欺诈者可以生成高质量的假身份证，这些身份证通常可以绕过现有的安全检查，包括人工智能驱动的身份验证系统。
报告指出，暗网市场为这些欺诈活动提供了强大的生态系统。从远程桌面协议 (RDP) 到信用卡检查器等各种服务都很容易获得，并得到高卖家评级和托管服务的支持，以保证产品的有效性。此类平台通过提供全面的工具和服务来协助开展复杂的欺诈活动，从而增强了欺诈者的欺骗能力。
此外，报告还强调，视频和语音深度伪造技术的应用日益广泛，用于欺骗受害者和逃避身份验证系统。这些技术可以制造逼真的欺骗，使组织更难发现欺诈活动。
Transmit Security 首席身份官 David Mahdi 指出，欺诈者之间的合作是一项重大挑战。“欺诈者作为一个社区合作得更好，他们就 GenAI 工具和技术进行协作和共享信息，”Mahdi 说。网络犯罪分子之间的这种协作方式使得 IT 领导者必须随时了解情况并利用先进技术来领先于这些威胁。
在澳大利亚和新西兰等地区，复杂的诈骗和欺诈案件不断增加。根据《澳大利亚支付欺诈报告》，截至 2023 年 6 月的 12 个月内，支付卡欺诈案件增加了 35.6%，损失达 6.775 亿澳元。同样，新西兰银行监察员在欺诈意识周期间强调未经授权的支付诈骗案件有所增加，每年损失超过 2 亿新西兰元。这些欺诈者使用先进的工具来制造更现实、更令人信服的攻击，而这些攻击以前很难执行。
为了加强安全措施，Transmit Security 建议组织实施由 GenAI、AI 和机器学习提供支持的融合欺诈预防、身份验证和客户身份管理服务。全面统一的防御策略对于消除数据孤岛、弥补安全漏洞以及确保准确、迅速地检测当今先进的欺诈计划至关重要。
Transmit Security 的报告对当前的威胁形势提供了宝贵的见解，并提供了减轻这些风险的建议。如需更详细的了解，可以阅读完整报告《GenAI 驱动的威胁形势：Transmit Security 的暗网研究报告》。
该报告是 Transmit 安全研究实验室欺诈分析师团队持续调查的结果，揭示了自 ChatGPT 发布以来暗网市场和欺诈工具的变化。主要发现突出了黑帽生成式人工智能 (GenAI) 平台的强大功能，欺诈者正在利用这些平台以前所未有的复杂程度、速度和规模创建新的欺诈活动。
Transmit Security 安全研究员团队负责人 Ido Rozen 表示：“很容易找到像 FraudGPT 和 WormGPT 这样的恶意 GenAI 工具，而且使用它们也同样容易——探测漏洞、编写恶意代码、收集数据并制造高度欺骗性的欺诈行为。”“这些工具没有安全防护，几乎不需要任何技能。GenAI 大大降低了新手欺诈者在全球范围内发动更高级攻击的门槛。”
该报告包括数十张暗网论坛、市场和订阅服务的截图，为任何有专业责任了解这个黑暗地下世界正在发生的事情的人提供了宝贵的见解。在合法、开放的网络上使用搜索引擎，人们可以找到欺诈平台和工具，但罗森警告说，这可能会导致恶意软件感染，这就是为什么白帽网络安全研究是最安全的信息来源。
“在探索地下犯罪活动时，我们的使命是保护我们的客户群，其中包括财富 500 强企业和美国‘十大’银行中的七家。全球经济的稳定在很大程度上取决于网络安全，我们在分析和逆向工程新的和不断发展的欺诈手段时非常重视这一点，”哈祖特说。
Transmit Security 暗网报告的要点：
- Blackhat Gen-AI 工具使创建和自动化欺诈活动变得更加容易，从而增加了攻击的数量、速度和种类。
- GenAI 工具可自动进行渗透测试，以查找企业漏洞并规避特定目标使用的安全措施。
- 在 GenAI 的帮助下生成的配置 (config) 文件用于验证账户，每分钟最多可验证 500 个凭证。
- 远程桌面协议 (RDP) 和信用卡检查器等捆绑服务通过人工智能得到增强，以简化攻击创建。
- GenAI 可以快速生成真实或合成的身份数据，以创建难以检测的欺诈账户，这些账户拥有 8 年以上的订单历史，但看起来却是合法的。
- GenAI 可以轻松创建高质量的假身份证，以绕过安全检查，包括大多数人工智能驱动的身份验证。
- 视频和语音深度伪造会引诱受害者陷入骗局，而语音克隆则可以欺骗呼叫中心的语音认证系统。
- 暗网市场提供全天候托管和高达 4.99/5 的卖家评级，以确保购买者产品的有效性。
从暗网数据中提取见解
Transmit Security 首席身份官、前 Gartner 分析师 David Mahdi 表示：“当我们审查暗网上收集的证据和分析时，很明显，欺诈者作为一个社区合作得更好，他们合作并分享有关 GenAI 工具和技术的信息。这是我们想要分享这项研究的主要原因，尤其是我们关于防止 GenAI 欺诈的建议。”
Mahdi 表示：“我们可以看到，不法分子正在结合各种方法，更轻松地进行身份攻击，因此，IT 领导者更需要掌握信息。这些见解可以帮助 IT 领导者证明他们为缓解身份安全漏洞而开展的项目是合理的，而目前专注于生产力的 IAM 解决方案却存在这样的漏洞。”
“由于 GenAI 被网络犯罪分子利用，IT 领导者必须自动检测欺诈和身份威胁并做出决策。这需要能够随着新型欺诈和攻击的出现而不断学习和改进的情境感知智能。这些方法只有借助 GenAI 才能扩展。”
利用人工智能提高安全性和可见性
为了在人工智能时代快速变化的动态中加强安全性，组织应实施由 GenAI、人工智能和机器学习支持的融合欺诈预防、身份验证和客户身份管理服务。只有统一的智能防御才能消除数据孤岛、安全漏洞和复杂性，否则这些会阻碍准确、快速地检测和阻止当今高级欺诈的能力。
为了发现更多欺骗性骗局和混淆策略，人工智能驱动的解决方案必须利用数百种检测机制，包括先进的行为生物识别、设备指纹识别、机器人和异常检测，这些机制能够降低风险，同时为可信客户消除摩擦。
GenAI 作为欺诈分析工具特别有用，可用于查询组织的身份数据以生成有关最终用户、设备、风险或信任事件、攻击类型和其他信息的图表或见解 - 以适应快速出现的趋势。