上一页 1 2 3 4 5 6 7 ··· 274 下一页
2025年7月11日
多智能体API安全洞察
摘要： 关于多代理 API 安全技术洞察： 从单个 API 调用转向多代理系统，从根本上改变了安全格局。这就好比从保卫一个单独的门口，转变为保卫一栋复杂的、人来人往的办公大楼，里面有许多相互连接的房间、员工和外部访客。 以下是针对多代理 API 系统的安全挑战和解决方案的技术性见解，这些见解建立在我们已经讨 阅读全文
posted @ 2025-07-11 15:59 bonelee 阅读(42) 评论(0) 推荐(0)
paloalto agentic ai threats 智能体的威胁
摘要： 执行摘要 https://unit42.paloaltonetworks.com/agentic-ai-threats/ 代理应用程序是指利用人工智能代理（旨在自主收集数据并针对特定目标采取行动的软件）来驱动其功能的程序。随着人工智能代理在实际应用中越来越广泛地应用，了解其安全隐患至关重要。本文探讨 阅读全文
posted @ 2025-07-11 15:18 bonelee 阅读(85) 评论(0) 推荐(0)
paloalto ai access security
摘要： AI Access Security 的详细功能 概述 AI Access Security 旨在通过提供对第三方 GenAI 应用的实时可见性和精确控制，确保其安全使用。它帮助组织防止影子 AI 风险、数据泄露和恶意内容。 关键功能 GenAI 应用使用可见性： 提供对组织内 GenAI 应用使用 阅读全文
posted @ 2025-07-11 15:17 bonelee 阅读(134) 评论(0) 推荐(0)
2025年7月10日
h2oGPTe 大模型安全防护能力洞察
摘要： 这篇文章信息量很大，特别是提到了 h2oGPTe 平台融合了预测型 AI 和生成式 AI，并拥有强大的新功能，如多代理系统、模型风险管理和多模态分析等。 您特别关注其**安全防护（Guardrails and PII controls）**的具体实现方式。新闻稿中提到，这项功能允许企业“控制响应边界 阅读全文
posted @ 2025-07-10 15:05 bonelee 阅读(108) 评论(0) 推荐(0)
2025年7月9日
GuardAgent 核心要点及机制解析
摘要： GuardAgent 核心要点及机制解析 https://arxiv.org/pdf/2406.09187 一、提出背景与设计目的 安全挑战：随着大型语言模型（LLM）代理广泛应用，安全问题日益突出。以医疗为例，LLM代理若被滥用，易泄露患者机密信息。 传统局限：现有LLM防护主要针对文本输出，常采 阅读全文
posted @ 2025-07-09 20:27 bonelee 阅读(57) 评论(0) 推荐(0)
ToolEmu 框架要点总结与应用案例
摘要： https://arxiv.org/pdf/2309.15817 ToolEmu 框架要点总结与应用案例 一、核心问题与设计目标 风险识别挑战：LM代理的风险识别通常需要手动实现工具、搭建环境和搜集风险案例。随着工具和代理复杂度提升，测试成本激增，长尾高风险案例难以被发现。 ToolEmu 目标：引 阅读全文
posted @ 2025-07-09 19:54 bonelee 阅读(78) 评论(0) 推荐(0)
Agent协议内生安全：AgentSpec: Customizable Runtime Enforcement for Safe and Reliable LLM Agents
摘要： AgentSpec 技术概述与应用案例 https://arxiv.org/pdf/2503.18666 一、AgentSpec 概览 AgentSpec是一种轻量级领域特定语言（DSL），旨在为大型语言模型（LLM）代理提供运行时的定制化约束执行，从而提升其安全性、可靠性及伦理合规性。 二、核心特 阅读全文
posted @ 2025-07-09 18:03 bonelee 阅读(58) 评论(0) 推荐(0)
AI智能体安全技术洞察
摘要： 核心要点 (Key Points) 研究表明，AI智能体安全至关重要，因为这些系统可能遭受数据泄露和未授权操作等攻击。 保护AI智能体似乎涉及多种技术，如提示词加固（Prompt Hardening）、工具净化（Tool Sanitization）和持续评估（Continuous Evaluatio 阅读全文
posted @ 2025-07-09 16:25 bonelee 阅读(285) 评论(0) 推荐(0)
加强对AI智能体劫持的评估 美国AI安全研究所（U.S. AI Safety Institute）
摘要： Technical Blog: Strengthening AI Agent Hijacking Evaluations Authored by the U.S. AI Safety Institute Technical Staff January 17, 2025 https://www.nis 阅读全文
posted @ 2025-07-09 16:11 bonelee 阅读(92) 评论(0) 推荐(0)
2025年7月8日
JoyAgents-R1: Joint Evolution for Multi-LLM Agents with Reinforcement Learning 文章解读
摘要： JoyAgents-R1: Joint Evolution for Multi-LLM Agents with Reinforcement Learning https://arxiv.org/pdf/2506.19846 “JoyAgents-R1”论文介绍了一种针对异构多大型语言模型（LLM）智 阅读全文
posted @ 2025-07-08 19:45 bonelee 阅读(51) 评论(0) 推荐(0)
上一页 1 2 3 4 5 6 7 ··· 274 下一页