随笔分类 -  大模型

• langchain能做什么
  摘要：langchain llm大模型与ai应用的粘合剂 agent开发：让大模型去操作外部应用 概念：langchain 是一个开源框架、旨在简化使用大语言模型构建端到端应用程序的过程，它也是ReAct（reason+act）【推理+行动】论文的落地实现想法、原因、反馈、行动一系列过程，循环 推理后，需 阅读全文
  posted @ 2025-06-13 17:44 桥泰 阅读(150) 评论(0) 推荐(0)
• 虚拟项目ai agent如何开发
  摘要：知识学习能力：其他知识它不会的时候，可以把专业知识灌给他，迁移它的能力实时感知能力：通过搜索引擎、物联网感知温度和实时情况记忆能力：记住和你的对话、关键要点，回忆、联想记忆 阅读全文
  posted @ 2025-06-13 16:10 桥泰 阅读(4) 评论(0) 推荐(0)
• 应用级开发者如何拥抱aigc
  摘要：普通人行业机会：ai 原生应用 【应用框架】检索增强生成RAG： 企业文档问答 例如： 1、上传一个行业文档pdf 2、对话、提炼内容 智能体Agent： 工业生产调度 想象它是个机器人，可以调度外部的一些软件功能 懂ai和ai的场景，知道用ai的能力结合场景，做出来应用让大家使用 每个工种都会配备 阅读全文
  posted @ 2025-06-13 16:09 桥泰 阅读(11) 评论(0) 推荐(0)
• aigc全景图
  摘要：我们的职业方向可以是ai agent AIGC产业拆解及其常见名称 提示词，langchain方案，也就是模型自己管控，用自己的数据进行训练 向量数据库大模型发展，离不开向量的数据向量的好处：存储、查询，选择向量数据库作为过程存储的这么一个方式 算法层 TensorFlow PyTorch Kera 阅读全文
  posted @ 2025-06-13 15:27 桥泰 阅读(15) 评论(0) 推荐(0)
• 大模型的不足和解决方案
  摘要：ai：终极圣杯是通用智能AGI 垂直行业数据可以使用fine-tuning进行微调，自己将数据喂给模型专业公司，积累了大量行业数据制药公司、fine-tuning: 解决领域专业性问题，知识库更新缺点：无法解决操作外部、记忆、以及窗口扩张的问题model as a service 模型即服务 pro 阅读全文
  posted @ 2025-06-13 11:54 桥泰 阅读(16) 评论(0) 推荐(0)
• 模型发展史回顾
  摘要：1、ai1.0通用性差，单任务，比如：深蓝下棋ai2.0模型发展阶段最早技术，词向量技术（自然语言用向量来表示）猫这个词在词向量里面就是一个坐标，每个词在向量里面有一个唯一坐标，形成坐标字典好处：自然语言用数学语言表示缺点：没有办法表达词语和词语之间的关系，效率不高 2、词嵌入： 对语言进行训练、预 阅读全文
  posted @ 2025-06-13 11:52 桥泰 阅读(22) 评论(0) 推荐(0)
• ollama安装linux包之后，安装python环境库
  摘要：安装pip工具（安装ollama库） sudo apt update apt install python3.12-venv # 使用 venv 创建虚拟环境python3 -m venv myenv# 激活虚拟环境source myenv/bin/activate # 在 Unix 或 MacOS 阅读全文
  posted @ 2025-06-12 15:01 桥泰 阅读(35) 评论(0) 推荐(0)
• ollama安装linux版本
  摘要：cuda 是英伟达推出的一种并行计算平台和编程模型它允许开发者利用英伟达gpu（图形处理单元）的强大计算能力来加速计算密集型任务，而不是仅仅用于图形渲染 注意：让原本cpu计算的任务，被cuda转换为gpu显卡计算的任务显卡并行计算能力远高于cpu，所以可以加速计算性能 linux安装ollama- 阅读全文
  posted @ 2025-06-12 15:00 桥泰 阅读(312) 评论(0) 推荐(0)
• WSL简介
  摘要：WSL：在win10 可以非常轻量化的方式，得到linux系统环境，逐步抛弃虚拟机的方式获取linux系统环境windows系统为主，linux为辅 阅读全文
  posted @ 2025-06-12 09:29 桥泰 阅读(16) 评论(0) 推荐(0)
• 大模型ui框架
  摘要：‌1、Cherry Studio‌ 是一款跨平台的AI工具客户端，支持多模型服务集成与本地化功能2、Chatbox 是一款基于openai api的开源ai工具3、 streamlit 阅读全文
  posted @ 2025-06-12 09:16 桥泰 阅读(34) 评论(0) 推荐(0)
• ollama介绍
  摘要：ollama：是一个简化大型语言模型本地部署和运行过程的开源软件ollama:提供了一个轻量级、易于扩展的框架，让开发者能够在本地机器轻松构建和管理LLMs(大语言模型)，通过ollama，开发者可以导入和定制自己的模型，无需关注复杂的底层实现细节。网址：https://ollama.comolla 阅读全文
  posted @ 2025-06-12 08:09 桥泰 阅读(118) 评论(0) 推荐(0)
• 大模型部署示意图
  摘要：模型是个普通文件，要运行起来必须要托管起来（比如使用Ollama），这样模型就能运行起来 阅读全文
  posted @ 2025-06-12 07:58 桥泰 阅读(18) 评论(0) 推荐(0)
• 大模型的实现原理简单归纳、各种术语的总结
  摘要：学会说话：利用深度神经网络来训练语言模型，先收集尽可能多的文本，每次随机收取一段上文，让模型学会接着往下背诵 理解意图：理解用户的需求是什么，通过训练，让大模型可以准确的识别用户的意图，并基于“给上文，补下文” 反馈择优：模型生成多个不同的回答。对不同回答排序，采用强化学习算法进一步调整模型，使输出 阅读全文
  posted @ 2025-06-11 21:45 桥泰 阅读(25) 评论(0) 推荐(0)