Check Point Research发布《AI安全报告》，揭示人工智能驱动的网络犯罪崛起及其防御策略

新报告揭示了四种关键的人工智能驱动的网络威胁，并阐述了用户如何在人工智能驱动的世界中智胜攻击者。

近日，网络安全解决方案先驱者和全球领导者 Check Point® 软件技术有限公司在2025年RSA大会期间正式发布首份《AI安全报告》。该报告系统分析了网络犯罪分子如何“武器化”人工智能（AI）技术，并为安全从业者提供一系列有力的防御建议与实践策略。随着AI在各行各业的应用中加速普及，数字世界中真假边界正逐渐模糊。网络攻击者正利用生成式AI与大语言模型（LLM）大规模伪造身份，破坏公众对数字身份的信任。如今，用户在网络上所看到、听到或阅读到的信息已无法简单凭表象判断真伪。AI驱动的深度伪造技术甚至可以绕过最先进的身份验证机制，使每一个人都可能成为网络欺诈的受害者。

“网络犯罪组织对AI技术的快速采用，正在以前所未有的速度重塑威胁格局，”Check Point Research研究总监Lotem Finkelstein表示。“某些地下服务平台的智能化程度已经相当高，而即将到来的下一阶段将是‘数字分身’的崛起——它不仅是外貌或声音的仿造，更是具备模拟人类思维与行为的AI复制体。这并不是遥不可及的未来，而是即将来临的现实。”

人工智能安全报告的关键威胁洞察：

报告指出，这些发展背后的核心是人工智能能够以极高仿真度模仿和操控数字身份，模糊了真实与失实之间的界限。以下是信任崩塌最为明显的四个核心领域：

·  AI增强型身份冒充与 社交 工程攻击 ：攻击者利用AI生成高度仿真的钓鱼邮件、语音模拟和深度伪造视频。近期甚至出现攻击者通过AI语音合成冒充意大利国防部长的事件，充分说明网络空间中无论是声音、面容还是文字内容都可能被伪造。

·  大语言模型 （LLM） 数据 污染 与 失实 信息传播 ：黑客通过操控AI训练数据，引导其输出偏差内容。例如，涉及俄罗斯失实信息网络的“Pravda”相关案例显示，AI聊天机器人有多达33%的回答内容为失实叙事，凸显AI系统数据完整性防护的重要性。

·  AI生成恶意 软件 与数据挖掘 ：网络犯罪团伙借助AI技术生成并优化恶意代码、自动化DDoS攻击流程，并对被盗数据进行清洗处理。以“Gabbers Shop”为代表的平台，已通过AI提升数据转售价值与攻击目标精度。

·  AI模型的武器化与劫持 ：从被盗的大语言模型账号到暗网定制的FraudGPT、WormGPT等黑产模型，攻击者正绕过原有安全机制，将AI工具 商业 化，用于黑客攻击与诈骗活动。

安全防御建议：

Check Point指出，防御方应默认AI技术已深度嵌入对抗体系，并据此调整安全架构。为应对这一挑战，用户应采用具备人工智能意识的网络安全框架，包括：

·  AI辅助检测与威胁狩猎 ：利用AI识别由AI生成的攻击内容，例如伪造邮件、深度合成视频等。

·  多层次身份验证机制 ：增强身份验证，采取超越传统的安全策略，实施多层身份验证，以应对文本、语音和视频中的AI驱动的身份冒充——认识到数字身份的可信度已不再是理所当然。

·  基于 AI 上下文 背景威胁情报能力 ：为安全团队配备具备AI感知能力的分析工具，增强其对新型攻击手段的识别与响应能力。

“在人工智能驱动的时代，网络安全团队必须将AI能力整合入防御体系，与攻击者实现同频对抗，”Finkelstein补充道，“本报告不仅揭示了AI带来的新型安全挑战，更提供了构建安全、负责任AI环境的行动路径。”

完整的 《2025 AI安全报告》 现已开放下载 ！