刷新
张高兴的大模型开发实战:(五)使用 LLaMA Factory 微调与量化模型并部署至 Ollama

目录环境搭建与配置数据集准备WebUI 配置微调参数模型导出与量化导入 Ollama LLaMA Factory 是一个开源的全栈大模型微调框架,简化和加速大型语言模型的训练、微调和部署流程。它支持从预训练到指令微调、强化学习、多模态训练等全流程操作,并提供灵活的配置选项和高效的资源管理能力,适合开 ...

分享开源项目oneapi的部分API接口文档

OneAPI开源项目的地址->One API 最近在学习oneapi,阅读了部分源码,把接口文档分享给大家 OneAPI API 文档 本文档描述了One API 开源项目的 API 接口(部分)。 用户管理 (User Management) 1. 用户注册 (User Registration) ...

Java&Activiti7实战:轻松构建你的第一个工作流.md

博主头像 本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 魔都架构师 | 全网30W技术追随者 大厂分布式系统/数据中台实战专家 主导交易系统百万级流量调优 & 车联网平台架构 AIGC应用开发先行者 | 区块链落地实践者 以技术驱动创新,我们的征途是改变世 ...

你想不想让你写的博客一键发布多平台?!

大家好。我是一个计算机小白,最近开始写博客记录我的项目开发中遇到的问题和解决方案并且想要分享给大家。 我使用Obsidian来编写markdown文章后,当我想要发布到csdn时,发现虽然支持它支持markdown编辑器,但是图片要从本地一个一个上传上去,这太蠢了。 紧接着又出现了另一个大问题,博客 ...

Spring AI与DeepSeek实战四:系统API调用

博主头像 一、概述 在 AI 应用开发中,工具调用 Tool Calling 是增强大模型能力的核心技术。通过让模型与外部 API 或工具交互,可实现 实时信息检索(如天气查询、新闻获取)、系统操作(如创建任务、发送邮件)等功能。 Spring AI 作为企业级 AI 开发框架,在 1.0.0.M6 版本中进 ...

基于Trae生成AIGC的书籍

博主头像 背景 之前用基于其他LLM大模型已经生成数据大纲,我们主题是《JAVA多线程编程》,基于Trae工具AI能力编写。我们把大纲以markdown格式上传某个git仓库中,在Trae打开这个工程,与代码工程一样。适合场景:结构化文档(如API文档、知识库条目) 数据驱动内容(如产品目录、客户案例)按章节 ...

AI应用-百度地图类MCP体验

博主头像 背景一、核心定义与协议基础MCP协议由Anthropic发起,被称为“AI界的USB-C接口”,其核心是通过标准化接口实现AI模型与外部工具/数据的无缝交互。在地图领域,高德、百度、腾讯等地图服务商已全面兼容MCP协议,提供地理编码、路线规划、POI检索等标准化API接口,支持开发者通过简单配置即可 ...

让 LLM 来评判 | 技巧与提示

博主头像 这是 让 LLM 来评判 系列文章的第六篇,敬请关注系列文章: 基础概念 选择 LLM 评估模型 设计你自己的评估 prompt 评估你的评估结果 奖励模型相关内容 技巧与提示 LLM 评估模型已知偏差及缓解措施: 缺乏内部一致性:同一 prompt 输入评估模型执行多次得到的结果可能不一样 (如果 ...

深入理解 Java Final:从基础到线程安全与性能优化

博主头像 1 修饰属性或变量 无论属性是基本类型、引用类型,都使变量里存放的“值”不可变。 常和static关键字协作,作为常量: 基本类型,变量放的是实实在在的值,如1,“abc” 引用类型,变量放的是个地址,所以final修饰引用类型变量指里面的地址不能变,即它只能指向初始时指向的那个对象,不关心指向的对 ...

MindIE LLM场景快速上手实验

MindIE是昇腾自研推理框架,本实验手册可指导小白用户快速掌握MindIE在LLM(large language model)场景的基本功能,包括:大模型推理功能测试、大模型性能测试、大模型精度测试、服务化推理部署、benchmark测试等。 1 实验准备 1.1 软硬件环境 本实验使用的设备是8 ...

张高兴的大模型开发实战:(四)使用 LangGraph 实现多智能体应用

目录环境搭建与配置定义智能体加载模型提取关键词生成回答连接智能体定义图的状态定义节点方法根据指令路由生成回答文件处理提取关键词网络搜索定义图的结构运行图运行指南在控制台中测试程序使用 Streamlit 构建前端页面 随着大语言模型(LLM)技术的快速发展,人们期望利用 LLM 解决各种复杂问题,在 ...

使用 AutoGen Studio 打造你的私有团队

博主头像 AI Agent 无疑是今年最火爆的概念,从科技巨头的战略布局到创业公司的创新产品,AI 智能体正在重塑我们与机器交互的方式。无论是自动化任务、个性化服务,还是复杂问题的协同解决,AI Agent 都展现出了前所未有的潜力。 而在众多备受瞩目的框架中,微软 Autogen 凭借其灵活的多智能体协作能 ...

基于ChatGLM沉思模型实现商品搜索

博主头像 背景ChatGLM-沉思版是由智谱AI于2025年4月推出的新一代智能体,其核心背景可从技术原理、应用场景、发展历程及未来趋势四方面展开:技术原理:融合深度思考与操作执行的革新架构模型基础: 基于GLM(General Language Model)的Transformer架构,采用自回归生成模式, ...

<1···192021···29>