今天的热点里,有好几条都跟AI安全有关:美国国家安全局被曝使用Mythos模型开展进攻性网络行动,国家安全部也发文提示“AI中转站”风险。AI在安全领域的角色正在发生根本性转变——它不再只是防御工具,也成了攻击者的利器。
简单来说,AI大模型可以像一位“超级分析师”:它能快速分析海量数据,发现异常行为,帮助安全团队更快响应威胁。但反过来,攻击者也可以用大模型自动生成钓鱼邮件、编写恶意代码、甚至模拟人类行为绕过安全检测。就像新闻里提到的,只要1小时就能绕过所有Skill市场的安全扫描,这背后很可能就有AI的“功劳”。
Anthropic的年度报告也指出,AI正在改变网络攻击的形态:攻击变得更精准、更隐蔽、更自动化。比如,AI可以学习目标的语言习惯,生成几乎以假乱真的钓鱼邮件;或者利用深度伪造技术,冒充领导声音进行诈骗。
国家安全部特别提到的“AI中转站”,是一个值得关注的新风险。所谓“AI中转站”,是指攻击者利用合法的AI服务平台(如云端大模型API),将恶意指令或数据“中转”一下,从而绕过安全检测。
举个例子:传统上,攻击者要发送恶意链接,可能会被邮件安全网关拦截。但现在,他们可以先用AI生成一段看似正常的文本,然后让AI服务“翻译”或“改写”成包含恶意链接的内容。因为流量来自合法的AI平台,安全系统往往不会拦截。这就是“中转”的威力。
这种攻击方式特别隐蔽,因为AI平台本身是“干净”的,安全团队很难区分哪些是正常用户请求,哪些是攻击者的“中转”指令。新闻里提到的“只要1小时就能绕过所有Skill市场的安全扫描”,很可能就是利用了类似的技术。
面对AI带来的安全新挑战,企业不能“因噎废食”,但必须主动升级防御体系。以下是三个关键方向:
1. 建立AI安全评估机制:在引入任何AI服务(尤其是大模型API)前,进行安全评估。包括数据是否会被用于模型训练、输出内容是否可控、是否存在“中转”风险等。可以参考《网络安全审查办法》的要求。
2. 强化行为分析:传统的基于规则的检测越来越不够用。企业应该部署用户和实体行为分析(UEBA)系统,通过学习正常行为模式,发现那些“看起来正常但实际异常”的AI辅助攻击。
3. 关注AI供应链安全:今天新闻里提到工业和信息化部发布了多个关于供应链和有害物质管理的公告。在AI领域,供应链安全同样重要——你使用的AI模型来自哪里?训练数据是否被污染?模型是否被植入后门?这些都需要纳入管理。
另外,零信任架构在AI时代尤其重要。不要因为流量来自“可信”的AI平台就放松警惕,默认不信任,持续验证,才是应对之道。
据今日新闻,美国国家安全局(NSA)被曝正在使用名为“Mythos”的AI模型开展进攻性网络行动。虽然细节未公开,但安全专家推测,Mythos可能被用于自动化漏洞挖掘、生成定制化钓鱼邮件、甚至模拟目标网络中的正常流量进行渗透。与此同时,国内国家安全部也警告了“AI中转站”风险:已有攻击者利用某知名云服务商的大模型API,将恶意指令伪装成“文本翻译”请求,成功绕过了企业的安全网关,窃取了敏感数据。这两个案例共同说明:AI正在从“防御工具”变为“攻击武器”,企业必须重新审视自身的AI安全策略。