Hugging Face 官网近日披露了一则令人警惕的安全事件：攻击者竟是一个完全自主运行的 AI 智能体系统。这一案例迅速在全球激起关于人工智能安全、取证技术以及防护策略的广泛热议。据新民晚报记者从上海人工智能实验室获悉，该机构近期推出了名为“书安”的 AI 安全基座平台。该平台整合了“数字孪生平台、智能验证矩阵、数据进化飞轮”这三大核心模块，意在打造一套能够复现、可评估且具备自我进化能力的全链路 AI 安全验证体系。
来源：东方IC
构建高保真的数字孪生环境，是这套安全验证体系的基石。借助数据脱敏、安全隔离以及数字孪生等技术手段，“书安”AI 安全基座平台能够对真实系统中的业务流程、资产关联、权限架构及运行环境进行高精度映射，从而形成一个动态演进的验证生态。这个“孪生体”不仅仅是对静态配置的简单复刻，更能实时模拟业务状态的波动与异常响应，确保每一次测试都能精准折射出真实生产环境中潜藏的风险与安全盲区。
据悉，“书安”平台彻底颠覆了传统网络安全“靶场”的固有模式，能够容纳数千个安全验证智能体在同一空间内进行博弈与迭代进化。目前，该平台已建立起包含 1500 余个业务场景、接入逾 50 万种真实工具的动态仿真环境，足以支撑复杂工具间的联动调用、多轮长程交互等全真业务流程的仿真验证；同时，依托其自研的超图马尔科夫链验证算法，现已对 17 套线上真实业务系统完成了全维度的安全测评与有效性核验。
在 AI 安全验证环节，“书安”AI 安全基座平台首先充当“体检中心”的角色。它内部搭载了一套由上海 AI 实验室自主研发的智能扫描引擎，这套引擎不依赖固定的漏洞库，而是通过自适应推理来深入理解系统的业务逻辑。它利用数字孪生技术高并发地模拟各种极端场景，并驱动多个智能体协同工作，分别对不同的模块进行检查。更为关键的是，平台引入了类似 AlphaZero 的自博弈强化学习能力，赋予智能体自主进化的能力。
紧接着，书安平台会切换至“体测中心”模式，对系统进行全方位的风险应对测试。为此，它构建了一套多维度的动态评估体系，结合数据库访问行为、全链路业务上下文以及系统实时运行状态，自动识别异常状况，并动态调整和执行测试方案，从而形成自动化闭环的“体测”流程。
在整个验证过程中，书安平台始终运行着一套智能裁判系统。该系统实时记录验证的全过程、最终效果、安全风险影响等数据，通过自动化研判打分并对结果做出公正裁决，最终输出一份标准化、可量化且可追溯的安全评估报告。
来源：东方IC
据新民晚报记者了解，目前，“书安”AI 安全基座平台已在多个产业的关键场景中展开应用验证。在国际物流供应链领域，平台通过模拟新型安全隐患，协助厦门国际物流供应链中试基地验证核心业务系统应对复杂风险的能力，进而提升供应链在智能化场景中的安全韧性；在金融领域，平台支撑银联金融支付中试基地开展针对金融支付垂域大模型 PaySage1.0-Turbo、商户入网审核智能体、数据分类分级智能体、用户合作经营智能体等多类业务场景的安全验证，保障模型与智能体应用的可靠与安全；在进出境领域，平台助力上海海关将安全多智能体协同能力嵌入单证审核、风险防控、口岸查验等关键环节，不仅实现了监管更加精准严密、通关更加便利高效，也确保了系统的安全可控与业务稳定运行。
自 2024 年提出“AI—45°平衡律”以来，上海 AI 实验室一直致力于推动 AI 安全与性能的同步演进。目前，该实验室已逐步建立起覆盖顶层理念、核心技术与行业标准的完整支撑体系。
