网络安全创新论坛 | 百度大模型安全斩获“2024年十大优秀网络安全创新成果”

2025-06-06 10:55:0482人阅读


近日,由中央网信办、湖北省人民政府指导,武汉市人民政府主办,国家网络安全人才与创新基地、中国网络空间安全协会等单位承办的第二届“武汉网络安全创新论坛”上,百度大模型安全解决方案获颁“2024年十大优秀网络安全创新成果”奖项,荣获该奖项充分显示了百度大模型安全解决方案在业界的领先地位。

1.jpg百度大模型安全解决方案获“2024优秀网络安全创新成果”

第二届“武汉网络安全创新论坛“融合·创新·突破”为主题,汇聚政界、学术界、产业界代表,围绕网络安全教育技术产业融合发展、人才培育及产品安全能力提升等核心议题展开深度研讨,并重磅发布了2024年度网络安全十大优秀创新成果,集中展现了我国网络安全领域现阶段的前沿进展。组委会围绕当前网络安全行业突出热点问题、难点问题和发展趋势,对人工智能安全、智能网联汽车安全、云计算安全、开源软件安全4领域的创新成果进行了征集,共征集申报成果108项,经专家层层筛选,遴选出10项优秀网络安全创新成果,百度大模型安全解决方案凭借优秀的产品能力脱颖而出。

为积极落实国家网信办等七部门《生成式人工智能服务管理暂行办法》、全国信息安全标准化技术委员会《生成式人工智能服务安全基本要求》相关要求,防范大模型全生命周期的安全风险,百度大模型安全解决方案针对大模型在训练、部署及业务运营各阶段的安全挑战,从数据安全与隐私保护、模型保护、AIGC 内容合规、业务运营风控四个维度构建了完整的解决方案。同时,结合“以攻促防”的理念,打造了 AIGC 内容安全蓝军评测能力,开展例行化安全评估,该方案产品能力广受认可。

2.jpg

第二届“武汉网络安全创新论坛”现场

针对大模型数据安全与隐私安全存在的诸多风险,百度大模型安全解决方案进行了专项技术升级与突破,在提供静态数据保护的同时,也为训练、分发、流转、部署、私有化交付等场景的数据资产与大模型资产安全提供了保障。另外,百度大模型安全解决方案也会对平台的基础环境、关键程序和核心资产进行数据安全风险评估,以“零信任、零改造、全流程”为理念,建立全流程密态数据围栏,确保数据在数据围栏中始终保持密文状态流通,同时基于最细粒度数据权限管控原则,通过“环境清单、数据清单、程序清单”实现进程级的数据权限动态访问控制,进而实现对语料数据、大模型文件等数据资产的全生命周期安全防护。

在大模型内容合规方面,百度大模型安全解决方案构建了分层分级治理的方案思路,通过语料清洗方案,基于文心大模型模型领先的内容理解能力,构建了通用的训练语料清洗模型,能够高效检出训练语料中的有害内容、无效内容及身份信息等隐私数据,从根本上提高模型生成内容的质量和安全性;针对模型输入输出侧,构建包含多语种安全、多轮对话安全、回复干预、输入安全、输出安全等多道大模型内容安全防线机制,全方位检测大模型线上服务全流程风险,让生成内容的风险更加可控。通过上下文语义理解模块,对用户输入的Query进行修正、改写和补全,准确识别注入、恶意指代等诱导类攻击行为;基于已经通过安全审核的、符合安全标准的指令数据对大模型进行微调,通过RLHF方式提升大模型对安全回复内容的偏好程度,引导鼓励大模型生成更加高质量的安全内容。

3.jpg百度大模型安全解决方案

百度大模型安全解决方案是围绕文心大模型安全实践经验,推出的以AI安全为核心的大模型安全风控解决方案,提供全套安全产品与服务,助力企业构建平稳健康、可信可靠的大模型服务。其中的创新实践不仅体现在技术层面,更重要的是我们始终坚持将安全理念融入大模型全生命周期。从数据清洗、安全对齐、内生安全到安全围栏,构建了一套完整的原生安全体系。特别在跨模态安全治理方面,百度大模型安全解决方案通过视觉理解与文本语义的双重审核,引入区域关注、跨模态对齐等机制,有效提升了对复合内容的风险管控能力。未来,百度安全将继续携手行业合作伙伴,以技术创新推动大模型安全的健康发展。我们将在大模型安全领域持续投入,为各行各业提供更加专业、可靠的安全服务,助力人工智能产业的可持续发展,为构建更加安全可信的AI应用环境贡献力量。


0
现金券
0
兑换券
立即领取
领取成功