360数字安全集团正式发布的《大模型安全白皮书》首次系统性阐释大模型运行时的五大关键风险,建设性地提出“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”的核心理念,助力推动人工智能行业向“安全、向善、可信、可控”方向稳健发展

 

 

 

 

外挂式安全侧重模型外部防护,通过“以模治模”实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御。

该方式具备两大优势:一是适配性强、部署成本低,可作为通用组件快速接入不同企业环境,避免重复开发;二是响应迅速,具备独立监测与拦截机制,可在毫秒级别识别并阻断实时威胁,如异常算力消耗或恶意内容。

平台原生安全则聚焦大模型数据、知识库、智能体及客户端等环节,将安全能力嵌入核心组件,强化配套组件安全与全流程合规管控。

360提供的企业级知识库、智能体构建与运营平台、智能体客户端等产品,均基于这一理念开发,将安全深度植入平台底层,全面满足国家与行业合规要求,为智能体应用提供全链路保障。

简言之,外挂式安全如同 

据悉,目前,360已将这一能力落地政务、金融、制造等各行业,真正让大模型安全从“理论变成“能落地、能管用”的实战方案。

未来,还将联合产学研各界,共同推动安全标准建设与技术共享,携手共建安全、可信的AI生态。让AI世界更安全、更美好。

推荐内容