AI在网络攻击中的滥用：微软泄露威胁情报

微软称网络犯罪组织正大量使用人工智能加速攻击、扩大恶意活动并降低技术门槛。其最新威胁情报报告显示，攻击者利用生成式AI完成侦察、钓鱼、部署基础设施、制作恶意软件及后期渗透等全流程。AI主要用于撰写钓鱼邮件、翻译内容、汇总窃取数据、调试代码以及辅助脚本和基础设施搭建，充当能力放大器，可快速生成文本、代码和多媒体，但攻击目标仍由人工决定。微软观测到包括Jasper Sleet（）、Coral Sleet（）、朝鲜相关组织在内的多个攻击组织将AI用于远程IT渗透，生成逼真的假身份、简历和话术以获取合法权限并持续访问。AI还辅助恶意软件开发、动态脚本生成及攻击基础设施的快速部署与故障排查。面对防护阻断，攻击者采用模型越狱手段。研究者正探索智能体AI实现自主任务执行。微软强调AI目前仅作辅助决策，非完全自主发起攻击。防御建议聚焦异常凭证检测、加强身份验证及保护AI系统安全。

企业应强化身份验证，监控异常凭证使用；对 AI 系统加入行为异常检测和日志审计；并开展针对社交工程的员工安全培训，以降低 AI 驱动的钓鱼与伪造身份攻击风险。