“AI 是一把‘双刃剑’，它在带来颠覆性机遇的同时，也衍生出了前所未有的安全挑战。”360 集团创始人、ISC 大会主席周鸿祎如此说道。在 9 月 8 日于上海外滩 FTC 举行的 ISC.AI 大模型安全论坛暨 360 大模型安全卫士产品发布会上，周鸿祎列举了一系列令人警醒的风险点，如恶意利用、内容安全、幻觉问题、提示词攻击等。
“大模型既是生产力工具，也可能成为新的攻击载体和攻击入口。” 周鸿祎指出，“政府和企业的数据资产、商业机密面临着前所未有的暴露风险。保障 AI 安全，不仅是一项技术挑战，更是一项长期而艰巨的任务，需要各方协同努力。” 这并非危言耸听，而是 360 基于多年在网络安全领域深厚积累所形成的深刻洞察。当大模型与关键基础设施、核心业务深度融合，任何细微漏洞都可能被急剧放大，酿成灾难性后果。
360 数字安全集团副总裁余凯在随后的演讲中，进一步剖析了当前 AI 安全的困境：“面对 AI 安全新挑战，传统安全企业在大模型技术领域积淀不足，往往‘盲人摸象’，难以系统把握全局;而多数大模型企业缺乏必要的安全技术积累与攻防实践经验，难以提出行之有效的解决方案。” 这番话一针见血地指出了当前市场上 “懂 AI 不懂安全，懂安全不懂 AI” 的普遍痛点，而这也正是 360 能够脱颖而出的关键所在。
“以模制模”：四大智能体筑牢 AI 安全新防线
在智能时代，单纯依靠传统安全手段来抵御 AI 攻击已远远不够。360 给出的应对之策是 “以模制模”。这一概念的核心，是借助 AI 自身的强大能力，去理解、识别并对抗 AI 带来的安全风险。
360 数字安全集团副总裁余凯深入阐释道：“作为国内唯一兼具数字安全和人工智能双重能力的企业，360 充分发挥‘懂 AI 更懂安全’的跨领域优势，基于‘以模制模’理念打造 360 大模型安全卫士，聚焦解决 AI 的‘可靠、可信、可控、向善’核心问题。”
360 大模型安全卫士并非单一工具，而是由四大智能体协同运作的智能安全系统，它们如同四位各司其职的忠诚守护者，系统性地解决大模型生命周期各环节的安全问题。
内容安全智能体：AI 世界的 “道德审查官”
内容安全智能体堪称 AI 世界的 “道德审查官”。通过垂直领域专业模型训练，它具备智能判定、风险内容检测及安全回复代答等关键能力。余凯介绍：“我们建立了五道内容防线，拥有 100 + 风险类目识别能力，确保输入输出双向安全。同时，我们以测促防，持续对模型回复内容进行评测，识别潜在攻击风险。” 这意味着，无论是恶意投毒、信息泄露，还是不当内容生成，都将遭到严密审查与拦截。
AI Agent 安全智能体：让 AI Agent 行为可控
随着 AI Agent 的普及，其自主规划与执行能力在提升效率的同时，也埋下了行为失控的隐患。AI Agent 安全智能体通过原生安全机制，全方位保障 AI Agent 执行任务时的数据安全与权限控制，有效防范可能出现的 “脱缰野马” 现象。余凯形象地比喻：“我们的目标是把大模型能力‘关在笼子里’”，确保 Agent 的行为始终限定在预设的安全边界内。
幻觉抑制智能体：提升大模型输出可靠性
大模型的 “幻觉” 问题，即生成看似合理实则错误或虚假信息，长期以来是影响其可靠性的一大难题。360 运用搜索增强、知识增强与对齐增强技术，显著提升大模型推理过程的准确性，有效抑制因内容时效性缺失、数据过时等因素引发的幻觉问题。余凯强调：“我们致力于确保生成内容真实可信”，这将极大增强用户对大模型输出信息的信任度。
软件安全智能体：守护 AI 软件供应链安全
AI 应用的底层软件供应链安全同样不容忽视。软件安全智能体能够高效识别开源软件，精准定位 AI 软件的安全漏洞，覆盖从模型训练到推理的全链路安全检测。余凯表示：“我们支持识别模型服务相关组件、生态链漏洞扫描与多语言代码审计，保障 AI 软件供应链生命周期的安全性。” 这意味着从代码编写到模型部署的每一步，都处于安全监控之下。
此外，360 创新性地将大模型安全卫士融入安全运营体系，通过整合安全大模型、安全大脑平台、大模型安全卫士及终端探针工具的核心能力，构建 “网数模一体化” 安全运营平台，实现了安全运营的系统性重塑与升级。这宛如为 AI 时代的数字世界打造了一座全方位的 “智慧警卫室”。
实践出真知：AI 安全新基建的实战成效
“AI 安全是一个门槛极高的技术领域，它需要同时具备 AI 技术积淀、安全实战经验、真实场景验证和海量语料积累。” 余凯说。360 大模型安全卫士已在公司内外多项业务中深度应用，并取得显著成效。
自有 AI 大模型业务实践：为业务稳定运行护航
在 360 自有 AI 大模型业务中，大模型安全卫士日均守护 1.5 万卡算力集群、3000P + 算力及数十条核心 AI 业务链路，为业务稳定运行筑牢安全防线。在内容安全方面，部署 360 大模型安全卫士后，可将开源大模型安全性提升 10 - 30%。这一数据有力证明了其在实际应用中的强大防护能力。
智慧政务内容安全保障：提升政务服务安全性与效率
在某智慧政务内容安全保障工作中，360 大模型安全卫士日均检测不良内容 1000 余条，业务代答 900 余条，回复安全率超 99%，风险识别准确率达 99% 以上。这不仅守住了政务工作的安全底线，更有力推动了政府的智能化转型，让政务服务更安全、高效。
大模型备案监管支撑：助力构建健康 AI 生态
360 大模型安全卫士还积极投身大模型备案监管工作，接入 8 个备案大模型，完成 100 + 检查，积累专项评测数据集超 100 万条。这为监管部门提供了强有力的数据支持与决策依据，助力构建健康有序的 AI 生态。
助力上海，共筑 AI 发展高地
作为国内领先的数字安全企业，360 不仅专注于自身产品与技术创新，还积极参与国家标准制定，推动行业生态建设。据悉，360 已深度参与大模型国家标准、大模型技术研发标准、大模型安全框架标准以及国家人工智能三大核心安全标准的制定。同时，公司还积极牵头成立行业生态联盟，促进全球产学研企共建 AI 安全。
此次发布会选址上海，彰显了 360 助力上海打造人工智能发展高地的坚定决心。上海作为我国人工智能产业的重要基地，对 AI 安全需求极为迫切。360 大模型安全卫士的发布，将为金融、政务、医疗、文旅等重点行业的智能化升级提供坚实安全基座，助力这些行业在智能化浪潮中稳健前行，共同打造具有全球竞争力的人工智能发展高地，为推动大模型技术的安全发展与创新应用注入强大动能。正如周鸿祎所说：“我们坚信，只有安全可控的 AI，才能真正服务于人类，造福于社会。”
免责声明：本文仅代表作者个人观点，与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
本网站有部分内容均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，若因作品内容、知识产权、版权和其他问题，请及时提供相关证明等材料并与我们联系，本网站将在规定时间内给予删除等相关处理.
