交个朋友吧

06 2025 档案

基于参数混淆的语言模型隐私保护训推方案
摘要：转载学习：ObfusLM - 基于参数混淆的语言模型隐私保护训推方案 ObfusLM: Privacy-preserving Language Model Service against Embedding Inversion Attacks 研究背景 近年来，随着大语言模型（LLM）能力的快速发展 阅读全文
posted @ 2025-06-29 10:46 PamShao 阅读(270) 评论(0) 推荐(0)
2025数据智能大会材料整理
摘要：2025数据智能大会--数智安全论坛成功召开 护航人工智能，首批AI安全治理能力评估启动！ 演讲内容 《可信数据空间赋能数据要素安全流通》：深入剖析可信数据空间如何构建安全可信环境，打破数据流通壁垒，保障数据在共享与交易中的安全，为企业数字化转型与社会数据高效利用提供新思路与新路径。 《AI+数据安 阅读全文
posted @ 2025-06-26 22:37 PamShao 阅读(151) 评论(0) 推荐(0)
向量数据库的安全分析
摘要：转载&学习：云上LLM数据泄露风险研究系列（一）:基于向量数据库的攻击面分析 研究背景 云计算赋能LLM发展 提供弹性算力资源，降低LLM训练/推理成本 云服务商提供预训练模型API和微调工具，加速业务部署 云生态集成数据存储与分析工具，推动LLM商业化 向量数据库的核心作用 解决非结构化数据（文本 阅读全文
posted @ 2025-06-24 23:19 PamShao 阅读(324) 评论(0) 推荐(0)
美团安全讲座
摘要：主题：AI+安全，智能体技术在安全领域的应用探索 本次讨论主要围绕AI赋能安全展开： 基于agent的APT情报运营能力建设 当前困难： 人力分析耗时耗力 非中文环境阻碍 LLM分析深度不够，准确度不够 机读情报生产：LLM 人读情报生成：智能体，增加更多数据分析 第一步：数据采集 第二步：机读情报 阅读全文
posted @ 2025-06-24 22:02 PamShao 阅读(134) 评论(0) 推荐(0)
大模型相关简答题
摘要：基础概念与模型架构 这些问题关注模型的基本原理、架构设计、以及不同类型模型的对比。 请简述Transformer的基本原理； 为什么Transformer的架构需要多头注意力机制？ 为什么Transformer需要位置编码？ 为什么transformer块使用LayerNorm而不是BatchNor 阅读全文
posted @ 2025-06-22 19:48 PamShao 阅读(91) 评论(0) 推荐(0)
0614蚂蚁安全会议记录
摘要：LLM赋能代码审计 解决受限模型上下文长度的办法： 模型安全（阿里） 安全测评： 模型安全： 模型内生安全： 安全研究方向： 内容伪造检测： 内网模型安全（网商银行） 训练和推理安全： 应用安全： 安全护栏： 数据安全： 外接工具安全： 模型安全（中关村） 系统安全： 具身智能安全： 供应链安全： 阅读全文
posted @ 2025-06-21 23:29 PamShao 阅读(34) 评论(0) 推荐(0)
基于混合检索重排序策略的大模型增强方法
摘要：学习论文：基于混合检索重排序策略的大模型增强方法 核心研究问题 如何优化检索增强生成（RAG）技术，特别是在知识库存储方式和检索结果重排序策略上，以显著提升大语言模型（LLM）在事实性问答任务中的准确率。 主要发现与贡献 知识库存储方式至关重要：段落切分优于固定长度切分 问题： 传统RAG系统常将知 阅读全文
posted @ 2025-06-15 19:44 PamShao 阅读(472) 评论(2) 推荐(0)
华为AI智能体安全
摘要：参考：https://mp.weixin.qq.com/s/vZEYRTOvau-IFwOW_eNm_A 随着 AI 在未来的智能社会中扮演着越来越重要的角色，AI 系统需要处理更丰富更全面的个人信息，一旦 AI 系统被攻破，大量用户敏感数据可能会被窃取和滥用，此外，AI 大模型本身也可能成为攻击目 阅读全文
posted @ 2025-06-05 10:11 PamShao 阅读(329) 评论(0) 推荐(0)