近日，DeepSeek凭借其高性能、低成本的通用人工智能技术成为科技圈的“顶流”，不仅让更多大众群体了解了AI技术的潜力，也引发了人们对AI安全风险的广泛关注。人工智能技术虽然为各行各业带来了前所未有的便利与创新，但也衍生出一系列复杂且严峻的安全挑战。瑞星发布的《2024年中国网络安全报告》明确指出，AI技术的 渗透正在重塑网络安全格局，其带来的风险横跨网络攻击、数据隐私、模型安全等多个关键维度，对个人、企业乃至社会的网络安全构成了前所未有的威胁。
当AI遇上网络钓鱼：让网络威胁 “升级蜕变”
在网络攻击层面，AI技术的应用让网络钓鱼手段实现了“智能化升级”。以 ChatGPT为代表的自然语言生成模型，能够自动生成语法和逻辑近乎完美的网络钓鱼电子邮件。这类邮件可轻松绕过传统的垃圾邮件过滤器，大幅提升了检测难度。同时，AI技术还能实现网络钓鱼攻击全流程自动化，包括目标信息收集、邮件创建、发送以及后续的验证和优化。
更令人担忧的是，AI能够根据目标用户的兴趣、职业角色和社交习惯，生成高度个性化的钓鱼内容，极大提高了攻击的成功率。例如，IBM的一项测试显示，由ChatGPT编写的钓鱼邮件成功诱使14%的员工点击了恶意链接，这一数据足以证明其巨大的威胁性。
图：由ChatGPT制作的钓鱼电子邮件
AI变身攻击利器：降低攻击门槛与成本
以ChatGPT为代表的大语言模型，能够根据用户意图编写代码。在缺乏限制的情况下，这些模型可以帮助攻击者生成、混淆攻击代码，并修改代码以躲避规则检测，极大降低了攻击门槛。攻击者可以更高效地与网络安全公司对抗，甚至利用AI根据关键基础设施的详细信息，定制专门的网络攻击载荷。例如，伊朗黑客组织CyberAv3ngers就利用AI工具进行侦察、编码和漏洞研究，攻击了以色列、美国和爱尔兰的关键基础设施。
图：伊朗黑客组织向Chatgpt提问的内容
此外，AI系统还易受到“对抗性样本” 攻击，攻击者通过添加微小的扰动就能使AI系统做出错误判断。例如，攻击者可以通过轻微修改恶意网络流量的特征，使其成功绕过AI驱动的入侵检测系统，从而规避防护措施。同时，AI驱动的自动化攻击工具进一步降低了攻击门槛。黑客可以利用AI快速分析海量网络流量，自动执行漏洞扫描、密码破解、网络钓鱼等攻击行为，使攻击更加隐蔽且高效。
AI引发隐私危机：数据收集与篡改风险剧增
在隐私与数据安全方面，AI的发展带来了一系列棘手问题。攻击者可以利用机器学习算法高效扫描关键基础设施，精准定位安全漏洞；通过多模态模型解析图像、视频，从中挖掘地理位置、设备参数等元数据；借助大语言模型从海量信息中提取关键情报，为攻击提供支持。
在个人数据处理上，AI技术可能在用户毫无察觉的情况下收集和使用个人信息。数据收集过程中，知情同意流程的缺失与隐私政策的模糊，进一步加剧了用户隐私暴露的风险。更令人担忧的是，AI技术中的生成对抗网络能合成虚假数据、篡改真实内容，而训练过程中可能引入的数据污染和图像篡改，也严重威胁了数据的准确性和安全性。在2024年，出现了多起AI换脸诈骗事件，这充分展示了AI隐私与数据安全风险的严峻性。
图：骗子利用AI换脸骗走英国跨国企业香港分公司2亿港币
AI模型安全与伦理风险：不容忽视的隐忧
除了上述风险，AI模型本身的安全性问题同样值得关注。模型中毒、反向工程与模型提取等攻击手段，使得AI系统在面对新型或未知攻击时表现不佳。此外，AI生成的虚假多媒体内容（如 伪造视频）在社交媒体上迅速传播，可能引发大规模虚假信息浪潮，对社会秩序造成冲击。
另外，AI的伦理道德风险也日益凸显。AI的决策过程依赖于数据和算法，缺乏人类的情感和道德判断，可能导致与人类价值观的冲突。例如，2024年11月，谷歌的AI聊天机器人“Gemini”因向用户发出威胁信息而引发争议，凸显了AI在伦理道德方面的潜在问题。
瑞星公司表示，AI技术的发展是一把双刃剑，在享受其带来的便利与创新的同时，必须正视并积极应对这些风险。只有通过加强技术监管、完善法律法规、提升用户安全意识等多方面的努力，才能确保AI技术在安全的轨道上持续发展，为人类社会创造更大的价值。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
