2025年2月27日
AI安全-模型用户输入注入
摘要： 顾名思义，在调用AI大模型时，根据用户传入的数据，进行AI处理，调用插件，但模型后端需要调用API，API需要传入的username 一个小场景，企业微信对话调用AI去修改当前密码 假设开发者设计如下： 用户输入-> AI -> 调用插件修改密码 修改密码插件实现： a.com/change_pas 阅读全文
posted @ 2025-02-27 18:39 sevck 阅读(98) 评论(0) 推荐(0)