在2025中国互联网大会现场,科技圈目光齐聚,360集团创始人周鸿祎针对大模型落地应用,抛出了震撼观点,直指潜藏的三大安全风险,为热火朝天的AI发展之路敲响警钟!
周鸿祎严肃指出,大模型的“幻觉”首当其冲,堪称头号“隐形炸弹”。当模型碰上知识盲区,竟能像模像样编造信息,娱乐场景里权当玩笑,可一旦大模型及衍生智能体涉足工业制造、政府办公这类关键领域,错误判断就如同脱缰野马,破坏力呈几何倍数增长,随时可能引发严重后果。 再者,大模型让网络攻击门槛“一降到底”。过去,发动网络攻击需专业编程知识,如今大模型使得普通人凭借简单自然语言交互就能编写程序,“注入攻击”随之而来。攻击者只需精心构造指令,便能诱导大模型泄露企业机密,未来甚至前台员工都可能因一时情绪,化身“攻击手”,对公司大模型发动致命一击。
从更宏观视角看,大模型正让国家级高级威胁攻击走向智能化。以往,针对我国的网络黑客数量有限,如今黑客将自身能力与经验“植入”大模型,摇身一变成为“黑客智能体”。在算力加持下,一个黑客能操控数十甚至数百个智能体,彻底改写网络攻防格局,让传统“人与人”的对抗,升级为“人与算法、机器、算力”的残酷较量,毕竟机器人数字黑客不知疲倦,只需算力便能持续进攻。
面对这重重危机,360迅速亮剑!周鸿祎透露,360正全力打造智能体安全专家,为企业实时监测攻击、实时防御提供保障,真正做到“以算法对抗算法”。同时,专门针对大模型安全开发的“大模型卫士”已上线,它就像智能管家,监控指令、评估输出,结合强大搜索与企业知识库,最大程度降低“幻觉”,守护大模型安全。
