随笔分类 -  AI 大模型

摘要：在文章 MAC OS 本地部署开源大模型 和 MAC OS 本地搭建部署 dify 分别介绍了在mac os系统下通过ollma 部署和管理本地大模型，以及在本地搭建 dify，在 dify 中可以引用 ollma 的本地大模型，本文主要介绍如何引入。 一、dify 集成Ollama的作用 1. 本 阅读全文

摘要：一、什么是 dify？ Dify 是一个开源的大语言模型（LLM）应用开发平台，融合了后端即服务（Backend as Service, BaaS）和 LLMOps 理念，旨在简化和加速生成式AI应用的创建和部署。它支持多种大型语言模型（如OpenAI的GPT系列、Claude3等），并提供强大的数 阅读全文

摘要：本文的目标是演示如何在本地环境中搭建并体验AI模型，包括安装Ollama、Docker、Open WebUI，下载LLM开源大模型，并通过命令行或Web界面进行交互验证结果。 一、下载并安装Ollama 1. 什么是 Ollama？ Ollama 是一个开源的大型语言模型（LLM）服务工具，旨在帮助 阅读全文