数字经济的安全基石

申请试用

> 关于我们 > 安恒动态 > 2025 > 正文

fnt_36">安恒信息CTO刘博在紫金山实验室作报告,拆解大模型安全治理实践路径

阅读量:文章来源:安恒信息

11月27日,第五届网络空间内生安全学术大会暨第八届“强网”拟态防御国际精英挑战赛在南京举行。由紫金山实验室浙江大学区块链与数据安全全国重点实验室南京信息工程大学计算机网络空间安全共同举办的人工智能安全论坛上,安恒信息CTO刘博受邀做报告,以“让智能更安全”为主题,与产学研各界的专家学者与行业领袖分享安恒信息大模型安全的思考与实践。



刘博提出,当前,大模型应用生态蓬勃发展,其安全短板随规模化落地逐步显现。从安全测评实践与典型安全事件来看,数据安全、内容安全、业务安全及供应链安全等核心议题愈发凸显,已成为制AI财产高质量发展的关键瓶颈,其中提示词注入、数据泄露与软件供应链风险位列三大核心风险。从大模型建设和应用过程全生命周期视角审视,既存在面向公众场景的外部暴露风险,也包含组织内部的潜在安全隐患,而从监管治理层面思辨,人工智能相关法规标准的核心导向已明确,即构建“安全可控、创新有序”的治理框架,以数据主权、内容标识、算法透明为三大支柱,以备案测评为核心技术抓手,在严守风险底线的同时,引导技术创新向善发展。


面对这一时代挑战,安恒信息给出了针对性的破局之道,构建“四横四纵”一体化治理框架,横向贯通技术、管理、流程、组织四大维度,纵向覆盖战略规划、标准规范、监督审计、持续改进四大层面,形成全面覆盖、纵深防御的 AI 安全治理体系,实现效率与安全的动态平衡




依托这一框架,安恒信息打造了全栈式大模型安全解决方案,通过系列核心产品落地实践为各行业网络安全数据安全保驾护航:数据安全系列(数盾)聚焦语料清洗核心需求,整合分类分级、数据脱敏、数据审计等工具矩阵,搭载“传统引擎 + AI引擎”双驱动的语料安全检测架构,支持多维度语料安全校验,结合隐私保护计算技术,赋能行业大模型可信训练与推理,筑牢训练阶段安全防线;大模型风险评估系统(智鉴)集成基础安全评估、输出内容检测、系统安全检测等扫描功能,构建贯穿语料安全、内容安全、运行环境的全生命周期检测体系,覆盖AI系统从开发到应用的全流程安全核查,通过精准风险评估与内容合规检测,保障生成内容安全可控;作为专注大模型场景WAF产品,大模型安全防火墙(MAF)融合语料内容防护、动态数据脱敏、代理访问控制等核心能力,叠加违规内容阻断、调用行为审计、访问权限管控、对抗攻击检测、敏感数据脱敏、审计溯源等关键功能,为大模型使用阶段提供全方位安全防护,在金融行业实践中,该产品曾2周内监测550万+次大模型访问,精准识别114起隐私泄露事件及1 起违规使用行为;大模型安全防护系统(智盾)定位大模型EDR核心产品,覆盖资产及主机安全、运行时内容防护、运行时语料防护等全链路需求,实现从语料输入、模型输入输出到事后审计封禁的全流程安全管控,保障大模型运行阶段的持续安全;办公应用防护(办公智盾)作为AI安全UES解决方案,整合零信任架构、AI应用管控、数据防泄露等功能模块,聚焦大模型应用环境安全与数据防泄核心诉求,为政企客户搭建全场景安全防护体系,助力大模型财产在合规轨道上稳健前行。


刘博表示,安恒信息正致力于以全栈能力守护大模型安全,持续推动形成行业安全共识与合作机制,共同为人工智能的稳健发展筑牢基石,护航AI技术创新与财产应用行稳致远让技术创新在安全的轨道上造福人类社会。


关闭

客服在线咨询入口,期待与您交流

线上咨询

咨询电话:400-6059-110

产品试用

即刻预约免费试用,我们将在24小时内联系您

微信咨询
安恒信息联系方式
百度 搜狗 360搜索 AI 重塑行业格局,哪些领域将成为新顶流? 大学生志愿者为乡村墙壁“上色”:用专业所长为乡村注入青春力量 拉基蒂奇:费尔明首发战多特挺有趣 民生银行感谢了前副董事长张宏伟,也起诉了他和东方集团 碎冰碰撞发出清脆声音,乌苏里江饶河段在春天“苏醒”

      <code id='5d437'></code><style id='53866'></style>
    • <acronym id='309f2'></acronym>
      <center id='e544b'><center id='fcabd'><tfoot id='509a8'></tfoot></center><abbr id='ba7a4'><dir id='cb170'><tfoot id='a887f'></tfoot><noframes id='98984'>

    • <optgroup id='69b1d'><strike id='edc74'><sup id='d6fc4'></sup></strike><code id='479df'></code></optgroup>
        1. <b id='7d0d9'><label id='794b4'><select id='6a81d'><dt id='9c2c8'><span id='02bb3'></span></dt></select></label></b><u id='424c9'></u>
          <i id='06de4'><strike id='e07bb'><tt id='1a0b7'><pre id='fbde5'></pre></tt></strike></i>