清华与蚂蚁数科联合研究项目荣获科技进步一等奖，成功解决大模型安全挑战
发布时间：2025-04-21 11:42:32 | 责任编辑：吴昊 | 浏览量：2 次
在刚刚结束的第十八届中国电子信息年会上，中国电子学会公布了2024年度科学技术奖的获奖名单。其中，由清华大学、北京中关村实验室和蚂蚁集团联合研发的项目《高效协作的互联网动态行为安全可信关键技术与应用》荣获科技进步一等奖。这一成果的获得，不仅展示了前沿科技在安全可信领域的巨大潜力，也为应对日益复杂的网络环境提供了有效方案。
随着互联网的普及，恶意流量攻击和隐蔽的网络风险层出不穷，构建一个更安全的互联网环境已经成为了社会各界的共识。这个联合项目创新性地提出了分层传递和高效求解的智能协作体系，能够有效实现安全信息的获取和传递，同时大幅提升了互联网对未知应用风险的应对能力。
蚂蚁集团在可信 AI 技术方面的深耕，已经在反欺诈、反洗钱和企业联合风控等领域取得了显著成效。该技术的应用，使得网络黑产中的隐蔽行为识别精度提升超过12%。例如，支付宝的黑产防御能力也得到了显著增强，资损率降低到亿分之0.98，远低于国际同行水平。作为蚂蚁集团的科技业务子公司，蚂蚁数科致力于将这些前沿技术输出到各个行业，以帮助企业在大模型时代实现安全可信的技术服务。
蚂蚁数科的蚁盾 AI 风控引擎融合了生成式 AI 技术，智能化水平显著提升。该系统不仅降低了风险管理的复杂度，还将风险应对的时效从天级别缩短到小时级别，现已服务于金融、出行和电商等十多个行业的1000余家企业。
在大模型技术应用方面，安全和可信性已经成为企业的核心需求。为了保障大模型在企业中的应用落地，蚂蚁数科推出了针对推理模型的全链路风险防御方案。这一方案覆盖了从输入层到输出层的所有环节，为企业的安全合规提供了坚实保障。同时，蚂蚁数科的可信智能体技术，助力企业构建可靠、可控且可优化的智能体应用，推动智能化服务从 “可用” 走向 “可信”。
项目主要负责人、蚂蚁数科 CEO 赵闻飙表示:“安全可信是 AI 大模型在产业应用落地的关键。我们将继续深耕可信 AI 技术，加速大模型在各行业的应用，助力智能化升级。”
蚂蚁数科与清华大学等单位联合完成的项目《高效协作的互联网动态行为安全可信关键技术与应用》荣获2024年度中国电子学会科技进步一等奖。该项目攻克了大模型安全难题，主要成果和贡献如下：
技术创新与突破
-
分层传递与高效求解：项目创新性地提出了分层传递和高效求解的智能协作体系技术思路，通过模型表达、知识共享和应用支撑，实现了安全信息的高效获取、传递和协作，显著提升了互联网应对未知应用风险的能力。
-
隐私量化调节机制：开发出针对数据重构攻击的隐私量化调节机制，使用户能够根据自身需求灵活调整隐私保护级别。
-
跨域协作与特征增强：设计了一种跨域协作、特征增强的应用风险防御方案，极大地提高了智能风控模型识别伪装隐蔽行为的能力。
大模型安全应用
-
全链路风险防御方案：蚂蚁数科推出了面向推理模型的全链路风险防御方案，覆盖输入层、推理层到输出层全链路，为大模型在企业的应用落地与安全合规保驾护航。
-
可信智能体技术：该技术在大模型侧、智能体供给侧、智能体执行侧及场景评测和归因环节发挥作用，助力企业打造可靠、可控、可优化的智能体应用，推动智能化服务从“可用”走向“可信”。
产业应用与价值
-
蚂蚁数科蚁盾AI风控引擎：应用蚂蚁智能风控技术打造的蚂蚁数科蚁盾AI风控引擎，融合生成式AI技术，大幅提升风控智能化水平。能够在风险管理复杂度综合降低50%的前提下，将风险对抗时效从天级别降低到小时级别，目前已服务金融、出行、电商等十多个行业的1000余家企业。
-
推动行业智能化升级：蚂蚁数科持续深耕可信AI技术，提升大模型在企业应用的安全性、专业性与可靠性，加速大模型在企业级场景的落地应用，赋能各行各业智能化升级。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
