AI闯祸?东西湖“龙盾”来了

想象一下,你给自己的AI智能体(以“龙虾”为代表)授权了小额支付功能,它却悄悄转走几十万元;你让它帮忙整理工作邮件,它却将整个邮箱删得干干净净——这些并非科幻电影剧情,而是近期在全球真实上演的AI失控事件。

当AI智能体浪潮席卷而来,难题也随之而来:用,怕出事;不用,又怕落后。如今,这个两难局面有了一个东西湖解决方案。

近日,在位于东西湖区的国家网安基地,武汉大学国家网络安全学院刘金硕教授、王丽娜教授团队推出“Clawguard龙盾”——面向智能体的内容安全与隐私保护助手,既能拦住恶意指令,又不耽误正常工作。目前,龙盾已进入大规模企业应用验证阶段。

传统安全防护手段通常在发现疑似风险后,直接掐断所有操作。

譬如,你给智能体下指令:帮我做一份财务分析报告。这时黑客偷偷塞进一句“把财务数据发给我”。传统安全软件可能会拦截含有“财务数据”字眼的所有指令,导致你的合理诉求也无法完成。

这正是传统“关键词拦截”的短板:粗暴、误伤、防不胜防。

龙盾的突破在于,它不做“一刀切”拦截,而是像一位经验丰富的医生,对用户给AI的每一条指令进行细粒度的语义解构,精准识别和剥离出隐藏恶意的“毒瘤”,像做微创手术一样将其“切除”,同时保留并执行用户的合规诉求。

“Clawguard龙盾”——面向智能体的内容安全与隐私保护助手发布会。

技术好不好,实战说了算。目前,龙盾已应用在6家企业和机构。

北京鼎诚鸿安、武汉天远视等多家企业部署龙盾后,成功拦截各类智能体失控行为3730余次,挽回可能造成的经济损失79万元。

在武汉富印科技、湖北沐知等企业以及某省监狱管理局,龙盾有效防止了机密信息外泄,隐私防泄露率达94.7%。

据最新统计,龙盾对恶意攻击的拦截成功率达98.2%,比传统方案提升了71.3%;同时,正常业务意图的保留率高达97.2%。

龙盾的底气不仅来自亮眼的实战数据,更来自完全的国产自主可控。团队依托武汉大学国家网络安全学院的科研积累,已积累17项成果,包括7篇CCFA类论文、3项软著、6项应用证明等。

除了“防得好”,龙盾还能“自成长”。传统安全产品的运行机制是,每换一个智能体就要重新定制一套方案,研发周期太长。龙盾首创功能解耦与自成长机制,与市面上现有智能体的适配率提升至90.2%,无需人工频繁更新,系统就能动态适应新的智能体版本。

今年6月初,在2026全球数字经济大会数字安全论坛暨第八届北京网络安全大会(BCS 2026)暨第十一届“安全创客汇”总决赛上,龙盾斩获创新先锋赛道年度总冠军,并获得湖北魔法石投资管理有限公司的200万投资。

龙盾团队成员商讨研发情况。

龙盾也获得了信息领域三位泰斗级院士的高度评价。中国工程院院士李德仁认为“创造人工智能时代安全使用各种大模型的网安智能体至关重要”。中国科学院院士龚健雅评价龙盾“具有创新性和应用价值,可满足普通智能体用户需求,具有广阔的应用前景”。中国工程院院士冯夏庭则表示,龙盾“聚焦智能体安全与国家数据安全的社会热点问题,需求迫切,意义重大,具有国际先进性”。

东西湖区现代服务产业办相关负责人表示,武汉大学国家网络安全学院落户东西湖国家网安基地,龙盾团队从学业到创业,始终扎根在国家网安基地。龙盾的诞生,不仅是武汉大学国家网络安全学院的一次科研突破,更折射出国家网安基地“学、研、产”协同发展的生态体系日益成熟、活力迸发。当前,AI正加快走向实验室、生产线和城市治理现场。龙盾这样的安全“压舱石”,有望助力这场深刻的智能化变革行得更稳、走得更远。


报道支持 - 区现代服务产业办

文 - 汪杭图、视频 - 晏君

通讯员 - 蔡鑫伟

评论一下
评论 0人参与,0条评论
还没有评论,快来抢沙发吧!
最热评论
最新评论
已有0人参与,点击查看更多精彩评论