近日，DeepSeek凭借其高性能、低成本的通用人工智能技术成为科技圈的“顶流”，不仅让更多大众群体了解了AI技术的潜力，也引发了人们对AI安全风险的广泛关注。人工智能技术虽然为各行各业带来了前所未有的便利与创新，但也衍生出一系列复杂且严峻的安全挑战。瑞星发布的《2024年中国网络安全报告》明确指出，AI技术的深度渗透正在重塑网络安全格局，其带来的风险横跨网络攻击、数据隐私、模型安全等多个关键维度，对个人、企业乃至社会的网络安全构成了前所未有的威胁。
当AI遇上网络钓鱼：让网络威胁 “升级蜕变”
在网络攻击层面，AI技术的应用让网络钓鱼手段实现了“智能化升级”。以 ChatGPT为代表的自然语言生成模型，能够自动生成语法和逻辑近乎完美的网络钓鱼电子邮件。这类邮件可轻松绕过传统的垃圾邮件过滤器，大幅提升了检测难度。同时，AI技术还能实现网络钓鱼攻击全流程自动化，包括目标信息收集、邮件创建、发送以及后续的验证和优化。
更令人担忧的是，AI能够根据目标用户的兴趣、职业角色和社交习惯，生成高度个性化的钓鱼内容，极大提高了攻击的成功率。例如，IBM的一项测试显示，由ChatGPT编写的钓鱼邮件成功诱使14%的员工点击了恶意链接，这一数据足以证明其巨大的威胁性。
图：由ChatGPT制作的钓鱼电子邮件
AI变身攻击利器：降低攻击门槛与成本
以ChatGPT为代表的大语言模型，能够根据用户意图编写代码。在缺乏限制的情况下，这些模型可以帮助攻击者生成、混淆攻击代码，并修改代码以躲避规则检测，极大降低了攻击门槛。攻击者可以更高效地与网络安全公司对抗，甚至利用AI根据关键基础设施的详细信息，定制专门的网络攻击载荷。例如，伊朗黑客组织CyberAv3ngers就利用AI工具进行侦察、编码和漏洞研究，攻击了以色列、美国和爱尔兰的关键基础设施。
图：伊朗黑客组织向Chatgpt提问的内容
此外，AI系统还易受到“对抗性样本” 攻击，攻击者通过添加微小的扰动就能使AI系统做出错误判断。例如，攻击者可以通过轻微修改恶意网络流量的特征，使其成功绕过AI驱动的入侵检测系统，从而规避防护措施。同时，AI驱动的自动化攻击工具进一步降低了攻击门槛。黑客可以利用AI快速分析海量网络流量，自动执行漏洞扫描、密码破解、网络钓鱼等攻击行为，使攻击更加隐蔽且高效。
AI引发隐私危机：数据收集与篡改风险剧增
在隐私与数据安全方面，AI的发展带来了一系列棘手问题。攻击者可以利用机器学习算法高效扫描关键基础设施，精准定位安全漏洞；通过多模态模型解析图像、视频，从中挖掘地理位置、设备参数等元数据；借助大语言模型从海量信息中提取关键情报，为攻击提供支持。
在个人数据处理上，AI技术可能在用户毫无察觉的情况下收集和使用个人信息。数据收集过程中，知情同意流程的缺失与隐私政策的模糊，进一步加剧了用户隐私暴露的风险。更令人担忧的是，AI技术中的生成对抗网络能合成虚假数据、篡改真实内容，而训练过程中可能引入的数据污染和图像篡改，也严重威胁了数据的准确性和安全性。在2024年，出现了多起AI换脸诈骗事件，这充分展示了AI隐私与数据安全风险的严峻性。
图：骗子利用AI换脸骗走英国跨国企业香港分公司2亿港币
AI模型安全与伦理风险：不容忽视的隐忧
除了上述风险，AI模型本身的安全性问题同样值得关注。模型中毒、反向工程与模型提取等攻击手段，使得AI系统在面对新型或未知攻击时表现不佳。此外，AI生成的虚假多媒体内容（如深度伪造视频）在社交媒体上迅速传播，可能引发大规模虚假信息浪潮，对社会秩序造成冲击。
另外，AI的伦理道德风险也日益凸显。AI的决策过程依赖于数据和算法，缺乏人类的情感和道德判断，可能导致与人类价值观的冲突。例如，2024年11月，谷歌的AI聊天机器人“Gemini”因向用户发出威胁信息而引发争议，凸显了AI在伦理道德方面的潜在问题。
瑞星公司表示，AI技术的发展是一把双刃剑，在享受其带来的便利与创新的同时，必须正视并积极应对这些风险。只有通过加强技术监管、完善法律法规、提升用户安全意识等多方面的努力，才能确保AI技术在安全的轨道上持续发展，为人类社会创造更大的价值。
