2023-08-25 21:18:4026825人阅读
8月24日,2023成都网络安全大会(CCS)正式揭幕。百度副总裁陈洋在会上发表主题演讲,聚焦大模型与网络安全创新的结合,基于“安全大模型”(AI Infra for Security)与“大模型安全”(Safe and Secure AI Infra)两个维度,分享了百度的最新安全能力建设成果。
百度副总裁 陈洋
陈洋表示,大模型在赋能千行百业、加速产业升级与经济增长的同时,也为网络安全行业带来了全新的机遇与挑战。一方面,基于大模型,通过智能人机协同可以重构整个安全业务流程,高效提升AI 原生安全应用的研发效率;另一方面,大模型自身的安全、可信、可控变得至关重要,系统网络安全、模型算法安全、数据安全和隐私保护、内容安全在大模型全生命周期中环环相扣,且贯穿大模型预训练、部署、精调及推理、业务运营四个关键阶段。
目前,基于百度领先的AI大模型平台,百度安全打造了百度AI安全底座,核心包括两方面,一个是安全知识和技能强化的大模型,提供了思考能力,一个是全场景的智能体,提供了执行能力。思考、执行两大通用性智能的核心能力,为百度安全高效、低成本地构建各类AI原生安全应用提供了可能。与会,陈洋分享了基于百度AI安全底座,百度安全在内容安全、数据目录能力、自动驾驶安全、安全运营体系建设等领域的探索与实践。
另一方面,伴随大模型在各个领域的应用日益广泛,保障大模型的安全性和可信度也成为企业当下一项紧迫的任务。比如,大规模数据的采集和存储,可能导致个人隐私的泄露和滥用,对抗样本攻击可能使得模型产生误导性结果,影响决策的准确性,而模型的强大能力也可能被恶意利用,用于虚假信息生成、社会工程和网络攻击等等,需要大模型能力提供方在不断保持技术创新的同时,建立起一套行之有效的大模型安全风控体系。
基于二十余年安全对抗的总结与提炼,围绕百度“文心大模型”安全实践经验,日前,百度安全推出了以AI安全为核心的“百度大模型安全解决方案”,从大模型全生命周期视角出发,方案涵盖大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段所面临的安全风险与业务挑战,提供全套安全产品与服务,助力企业构建平稳健康、可信可靠的大模型服务。
百度大模型安全解决方案
与会,百度安全面向行业发布了《大模型安全解决方案白皮书》,梳理总结大模型安全应用面临的安全挑战与潜在威胁,并从数据安全与隐私保护、模型保护技术、AIGC内容合规、业务安全风控、蓝军评测等维度提出建设思路与解决方案,以期为各界人士提供参考和启示。关于百度大模型安全解决方案与《大模型安全解决方案白皮书》,更多详情参见“阅读原文”。
未来,百度安全也将持续与产学研各界合作伙伴保持合作,共同迎接大模型时代的新机遇、新挑战,共筑大模型安全防线,探索更安全的大模型赋能千行百业的无限可能。