摘要:
第一部分:LLM 深度解析 - 超越“概率预测” 1. 什么是 LLM? 大语言模型(Large Language Model, LLM) 是一种基于深度学习的人工智能系统,其主要功能是理解和生成人类语言。它的核心是一个拥有数百亿甚至万亿参数的神经网络,通过在海量文本数据上进行训练,学习语言的语法、 阅读全文
posted @ 2025-09-09 14:07
NeoLshu
阅读(9)
评论(0)
推荐(0)
摘要:
第一部分:Agent 深度解析 - 从“工具”到“智能体” 1. 什么是 AI Agent? AI Agent(智能体) 是一个能够感知环境、进行推理、做出决策并执行动作以实现特定目标的自治系统。它超越了简单的“问答”模式,将大语言模型(LLM)从一个“大脑”升级为一个可以指挥和操作“身体”(工具) 阅读全文
posted @ 2025-09-09 14:05
NeoLshu
阅读(45)
评论(0)
推荐(0)
摘要:
一、架构设计目标与原则 统一接入:为上层应用提供标准化、统一的API接口,屏蔽后端多种大模型(OpenAI、Azure、Anthropic、国内厂商、开源模型)的差异。高可用与弹性:无单点故障,能自动处理后端模型服务的故障转移和降级,支持水平扩展以应对流量高峰。生产化特性:集成认证、限流、监控、熔断 阅读全文
posted @ 2025-09-09 11:16
NeoLshu
阅读(8)
评论(0)
推荐(0)
摘要:
第一部分:SSE 深度解析 1. 什么是 SSE? SSE 的全称是 Server-Sent Events,即服务器发送事件。它是一种基于HTTP的轻量级技术标准,允许服务器在建立一次连接后,主动向客户端(通常是Web浏览器)持续推送数据。 核心思想:建立一个长期存在的单向连接(从服务器到客户端), 阅读全文
posted @ 2025-09-09 10:51
NeoLshu
阅读(6)
评论(0)
推荐(0)
摘要:
第一部分:RAG 深度解析 1. 什么是 RAG? RAG 的全称是 Retrieval-Augmented Generation,即 检索增强生成。它是一种将信息检索(IR)系统与大型语言模型(LLM)相结合的技术范式。 核心思想:在LLM生成答案之前,先从外部知识库(如公司文档、数据库、网页等) 阅读全文
posted @ 2025-09-09 10:50
NeoLshu
阅读(27)
评论(0)
推荐(0)

浙公网安备 33010602011771号