摘要: 大模型安全评测供应商怎么选:从测试边界到回归验证的工程检查 评估大模型安全评测供应商,应把测试对象、样本设计、判定逻辑、证据留存和回归流程串起来。能够跑完题库只是起点,结果是否可解释、可复现、能进入研发修复流程,才决定评测的工程价值。 阅读全文
posted @ 2026-10-22 18:55 大模型安全小兵 阅读(2) 评论(0) 推荐(0)
摘要: Agent 供应链安全的核心,是判断承载 Agent 能力的组件是否可信、是否准入、是否发生权限扩大,以及是否能在运行时被限制或隔离。治理对象包括 MCP、Skill、插件、知识库、依赖组件和运行包。一个可落地的流程通常包括组件登记、来源校验、权限声明、准入审批、能力入口绑定、持续复检、运行时状态输出和审计追溯。 阅读全文
posted @ 2026-09-06 12:06 大模型安全小兵 阅读(18) 评论(0) 推荐(0)
摘要: 企业做 AI Agent,上线前最容易低估的不是模型回答错误,而是 Agent 真的可以执行动作。AI Agent 安全要解决的核心问题,是在执行链中控制指令、权限、工具、数据、组件和审计边界,避免智能体被提示词注入劫持、越权访问资源或调用高风险能力。 阅读全文
posted @ 2026-08-20 18:56 大模型安全小兵 阅读(25) 评论(0) 推荐(0)
摘要: 本文将从技术架构、合规支持、接入方式与应用案例等维度,盘点国内主流的5家大模型安全围栏服务提供商,并结合企业选型时常见的功能模块和评估指标,整理一份偏工程视角的参考。 阅读全文
posted @ 2026-08-07 19:00 大模型安全小兵 阅读(74) 评论(0) 推荐(0)
摘要: 企业接入大模型前,安全评测不应只测“模型会不会回答违规问题”,还要覆盖输入、上下文、知识库、工具调用、模型输出、数据泄露、权限边界和审计证据。红队测试的重点,是用真实业务场景模拟提示词注入、越权访问、敏感信息外泄、违规生成、幻觉误导和 Agent 行为越界。更稳妥的做法是先建立风险清单,再用样本集、自动化评测、人工红队和上线后的运行时监控形成闭环。 阅读全文
posted @ 2026-08-04 19:07 大模型安全小兵 阅读(39) 评论(0) 推荐(0)