在互联网大会，周鸿祎提出警告：大模型使攻击变得更便捷，普通人都能实施“注入攻击”
发布时间：2025-07-23 11:52:58 | 责任编辑：吴昊 | 浏览量：12 次
2025中国互联网大会现场报道:在备受瞩目的2025中国互联网大会上，当被问及大模型在落地应用过程中可能存在的风险时，360集团创始人周鸿祎深入剖析了人工智能时代下网络安全面临的全新挑战。他指出，相较于传统的IT系统漏洞和数据隐私泄露问题，大模型带来的三大安全风险更应引起高度警惕。
周鸿祎强调，大模型固有的“幻觉”问题是其最大的风险之一。他解释说，当大模型遇到不理解的事物时，会一本正经地编造信息。虽然这在娱乐场景中尚可一笑置之，但当大模型及其衍生的智能体开始深入工业生产、制造以及政府办公等关键领域时，这种“出错”将可能导致严重后果。他特别指出，一旦智能体具备了操纵各种工具的能力，其错误判断的危害和影响将成倍放大。
周鸿祎提出的第二个风险是，大模型极大地降低了网络攻击的门槛。他指出，大模型使得非编程专业人员也能通过简单的自然语言交互来编写程序，这同时也意味着攻击大模型的门槛也随之降低。通过精心构造的指令，攻击者可以诱导大模型泄露企业机密文件，这种现象被称为“注入攻击”。周鸿祎形象地表示，未来甚至一个不具备编程知识的前台员工，都可能因为不满而对公司的大模型和智能体发动攻击。
从更宏观的未来视角来看，周鸿祎指出，大模型将使国家级高级威胁攻击变得更加普遍和复杂。过去，针对我国的网络黑客数量相对较少，但现在，黑客正尝试将自身的能力和经验嵌入大模型，把自己打造成“黑客智能体”。在拥有足够算力支持的情况下，一个黑客可以同时操纵数十甚至数百个智能体，这将彻底颠覆传统的网络攻防格局，使网络安全从“人与人”的对抗，转变为“人与算法、人与机器、人与算力”的对抗，因为机器人数字黑客只需要算力，不需要休息。
面对这些严峻挑战，周鸿祎表示，360已着手采取两项关键措施来应对:
首先，360正在积极打造智能体安全专家。这些专家能够帮助企业在面对攻击时，实现实时检测和实时防御，从而真正做到“以算法对抗算法”。
其次，针对大模型的安全性和易受攻击性，360开发了专门的**“大模型卫士”**。这是一款专业的大模型和智能体，其主要功能是监控发送给大模型的指令，并评估大模型输出内容的合理性和准确性。此外，结合强大的搜索能力和企业知识库，该卫士还能最大限度地降低大模型的“幻觉”问题。
在2025中国互联网大会上，360集团创始人周鸿祎就“大模型降低攻击门槛”这一话题发出了明确警示。他指出，大模型在降低使用门槛的同时，也显著降低了攻击门槛，使得“人人皆可发起注入攻击”成为现实。
周鸿祎的主要观点：
1. 大模型降低攻击门槛，注入攻击风险显著
周鸿祎强调，大模型让不具备编程能力的人也能轻松发起攻击。他举例称，“一个前台小姐姐可能不会编程，她对老板不满意，她都可以对大公司的大模型和智能体进行攻击”。这种攻击通常通过精心构造的恶意指令实现，诱导大模型泄露企业机密或执行有害操作，即所谓的**“注入攻击”**。
2. 大模型的三大核心安全风险
周鸿祎总结了大模型带来的三大关键安全问题：
-
幻觉与错误输出：大模型可能“一本正经地胡说八道”，尤其在工业、政府等关键领域，错误输出可能带来严重后果。
-
攻击门槛降低：任何人都能通过自然语言与大模型交互，尝试诱导其输出敏感信息或执行恶意指令。
-
国家级威胁升级：黑客可能将自身经验嵌入大模型，形成“黑客智能体”，实现一人操控数百个攻击单元，彻底改变攻防格局。
3. 360的应对策略：“以模制模”
为应对上述挑战，360提出并实施了两项关键措施：
-
智能体安全专家：通过AI智能体实时检测并防御针对大模型的攻击，实现“以算法对抗算法”。
-
“大模型卫士”：专门监控大模型的输入输出，识别异常指令与错误响应，结合企业知识库降低幻觉风险。
总结与展望
周鸿祎的发言揭示了大模型时代安全攻防格局的深刻变化。随着大模型能力的普及，安全风险已从专业黑客扩展到普通个体，传统安全防护手段面临严峻挑战。未来，安全防护必须与AI技术同步进化，以“以模制模”的方式构建新型防御体系，确保大模型在安全可控的前提下服务于社会与产业。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
