聚焦AI安全新挑战：从大模型到智能体，领信数科解码AI应用安全底座建设

会议主持人、青岛探索科技有限公司总经理张学松先生表示，大模型与智能体加速融入各行各业，在带来效率变革的同时，也催生了数据泄露、模型滥用、算法偏见、深度伪造等新型安全风险，AI安全边界已由内容生成进一步延伸至业务操作与数据流转环节。

本次活动围绕监管法规解读、AI时代的风险与应对、场景化解决方案三大核心议题展开，深度剖析了AI应用在模型、数据、内容、应用层面的安全威胁，并提出了“预防—监测—响应—恢复”的全生命周期应对思路。

主题分享环节，领信数科人工智能安全专家尚培新作题为《从大模型到智能体，如何构建AI应用的安全底座》的演讲。结合当前全球及中国AI市场发展态势、我国现有规章及标准监管框架，深入阐述了构建智能体安全防线的紧迫性与必要性。

面对智能体时代攻击面扩大、权限管控粗放及数据外泄等痛点，传统安全管控体系已难以适配。对此，领信数科推出了覆盖“检测、治理、感知”的全链路安全底座，为与会者提供了清晰的技术解决路径：

存在痛点：大模型资产边界模糊、动态迭代频繁，上线前缺乏系统性安全验证，且传统人工审查效率低下，存在“看不见、说不清、难量化”的合规难题。

解决思路：领信数科建议采用“自动化扫描+全场景评估”的方式，建立覆盖模型上线、资产盘点、持续巡检与监管检查的全生命周期检测体系。

产品价值：领信数科大白智测大模型安全风险评估系统可提供便携式一体机与服务器双形态，旁路部署即插即用。该产品可在不改变客户现有网络结构的情况下，通过主动扫描，形成一体化的资产与风险识别能力，在数小时内完成上线前合规、越狱攻击及数据安全评估，让AI资产与风险摸得清、管得住。

存在痛点：当前智能体多分散建设且架构异构，普遍存在身份主体模糊、权限管控粗放固化、运行行为缺乏事中约束、安全治理孤岛化等问题。

解决思路：领信数科建议以“人机统一身份治理+零信任动态访问控制”的思路，在无需对智能体开展业务代码二次开发的前提下，实现各类 AI 资源的全域安全防护。

产品价值：领信数科智能体身份与访问安全解决方案采用“智能体身份认证管理平台+智能体安全网关”双组件架构，通过绑定归属使用者账号，约束访问权限边界，实现操作审计责任清晰化，实施动态限时最小权限控制。可防范智能体越权访问与非法调用风险，所有流量强制经过网关，实现高危操作拦截与全链路穿透式审计。

存在痛点：词元（Token）作为大模型调用资源消耗的核心度量单位，消耗缺乏监控和配额管理，易导致成本失控；使用端、建设端均缺乏统一管控与审计，存在模型调用入口分散、一体化运营工具缺失等问题，基于词元开展全链路精细化治理成为刚需。

解决思路：领信数科建议以“词元精细化管理”为抓手，建立“瞬时防护+周期管控”双层防线，实现算力调度与风险感知的闭环。

产品价值：领信数科词元监测调度平台可统一模型调用入口与API密钥管理，解决异构大模型算力成本的精细化核算与分摊问题；同时支持全链路调用追踪、交互内容合规校验及AI风险态势大盘可视化预警，让大模型交互行为全程可记录、可复盘。

会议中，领信数科特邀信通院数字化转型高级安全治理师分享了关于数据与人工智能边界的思考，围绕数据要素合规流通、大模型训练的数据确权、敏感信息识别、算法责任划分等核心议题提出思路，并结合当前监管政策与政企落地实践，剖析了数据供给、模型能力、业务权限三者之间的边界逻辑，指出AI价值释放不能脱离数据安全底线，要在数据可用不可见、权限可审计、风险可追溯的框架下推进智能化建设。

会后，与会嘉宾就具体业务痛点、合规边界及部署细节与领信数科团队展开了深入探讨。嘉宾们纷纷表示，本次分享对大模型及AI智能体的安全建设思路极具启发，提供了切实可行的落地参考。

本次交流活动的成功举办，不仅为区域政企单位应对智能体时代的安全挑战提供了切实可行的技术路径与落地示例，也增进了各方对AI安全底座的共识。