科大国创：以高可信技术为 AI 智能体加 “安全锁”，破解数据与算法漏洞痛点

　　导航软件突发 “迷航” 乱指路、智能客服答非所问绕圈子、自动驾驶系统莫名 “宕机”…… 如今 AI 已深度融入生产生活，但这些 “不靠谱” 的瞬间背后，暗藏着人工智能数据与算法在安全性、鲁棒性上的隐忧。9 月 20 日，在合肥举办的世界制造业大会数据要素综合试验区创新成果暨新模式场景对接会上，科大国创软件股份有限公司(下称 “科大国创”)的一项金奖技术，正为破解这一行业痛点提供解决方案。

　　当天，由国家数据局、安徽省人民政府指导，安徽省数据资源管理局主办的 2025 年 “数据要素 *” 大赛安徽分赛决赛公布获奖名单。在涵盖人工智能、交通运输等 14 个赛道的 902 支参赛团队中，科大国创 “基于形式化验证的 AI 智能体安全漏洞自动挖掘平台” 项目脱颖而出，斩获人工智能赛道金奖。这项看似复杂的技术，精准瞄准了 AI 应用中的核心隐患。

　　“现在 AI 技术应用很火，但对其本身安全性、可靠性的关注还不够，我们正是捕捉到了这个市场机会。” 负责该项目的中科国创高可信软件有限公司总经理张振海解释道。通俗而言，该平台相当于给 AI 大模型及智能体做 “全身体检”—— 通过创新性运用形式化验证方法，将 AI 大模型的鲁棒性、安全性等关键性质用形式化语言严格定义，再以数学推演的方式逐层排查，精准定位潜在漏洞与缺陷。

　　为何要如此 “较真”?张振海一语道破关键：“AI 大模型从训练、部署到迭代全靠数据和算法驱动，一旦数据失真、算法有瑕疵，就可能导致决策失误，甚至被恶意攻击。在自动驾驶、航空航天、国防军工这些关键领域，这类问题堪称‘致命风险’。” 依托企业自主研发的国创高可信系列工具，该平台将高可信软件技术融入 AI 安全检测全流程，不仅能找出漏洞，还能构造反例并提供改进建议，真正实现 “防患于未然”。

　　目前，这项填补国内人工智能智能体漏洞检测产品空白的技术，已在中国移动运营商、航空航天等重点行业落地应用，市场化推广成效显著。张振海透露，下一步公司计划将平台移植至 GPU 超算平台，进一步提升算力支撑能力，以应对更大模型、更复杂算法的检测需求，推动技术向更广泛产业场景延伸。

　　除了 AI 安全领域的突破，科大国创在本次世界制造业大会上还集中展现了 “AI + 行业应用” 的全链条布局：新能源领域的智能云 BMS、BEMS 及液冷储能系统悉数亮相;融合汽车智能驾驶技术的助行机器人，为行动不便群体中短途出行提供便利;可信数据空间、量子科技等前沿探索成果同步展出，彰显出企业从软件到硬件、从核心技术到场景落地的全方位赋能实力。