7月9日，2024（第二十三届）中国互联网大会在北京国际会议中心开幕。360智脑总裁张向征受邀出席，并就大模型安全的重要性以及在落地应用过程中的四大原则和“以模制模”理念进行了全面分享。
会上，张向征明确指出，大模型不仅是数智化时代的重要基础设施，安全是大模型应用的基石，大模型的发展要遵循“安全、向善、可信、可控”四大原则。此外，360集团在实践中也提出“以模制模”的理念，用专业知识训练的大模型做大模型的安全识别、评估和管控。
具体而言，大模型生态链安全检测系统，可以确保模型环境安全。值得一提的是AISE人工智能系统安全检测平台是国内首个支持系统化安全检测、首个支持提示注入风险检测的平台。该平台不仅支持针对多种安全风险测评，还能覆盖图像识别、人脸识别、目标检测、生成式AI等多场景，输出安全评分及分析报告，并提供相应的安全加固方案。智能风控引擎，为大模型内容安全保驾护航。在使用安全工具的辅助下，大模型风控能力的迭代效率也将提升。基于安全工具增强，360红蓝对抗团队仅需输入风险主题和目标大模型，即可对线上大模型的风险自动巡查。而微调和强化学习技术的引入，也有效提升大模型回复安全。另外，基于幻觉检测Agent，大模型输出的可信度也得到进一步的提升。这一套完善的大模型安全方案支持SaaS、私有化、混合云、公有云等多种部署或交付方式，满足企业对便捷、成本、安全等多种因素的个性化需求。
在大模型安全解决方案上，360集团从未停歇。从技术创新到举办大模型攻防竞赛，再到参与大模型国家标准的编写，360集团始终致力于为AI大模型的安全发展贡献力量，护航大模型应用，助力数智化转型。（资讯）
上游新闻 马亮
