想了解大模型 Llama 的工作原理？Llama Nuts and Bolts 项目不依赖外部库，通过 Go 语言从零构建 Llama 3.1 8B-Instruct 模型，为学习者提供了一个教育性深度探索，让您动手实践理解大型语言模型。 ...

在文章 MAC OS 本地部署开源大模型 和 MAC OS 本地搭建部署 dify 分别介绍了在mac os系统下通过ollma 部署和管理本地大模型，以及在本地搭建 dify，在 dify 中可以引用 ollma 的本地大模型，本文主要介绍如何引入。 一、dify 集成Ollama的作用 1. 本 ...

一、什么是 dify？ Dify 是一个开源的大语言模型（LLM）应用开发平台，融合了后端即服务（Backend as Service, BaaS）和 LLMOps 理念，旨在简化和加速生成式AI应用的创建和部署。它支持多种大型语言模型（如OpenAI的GPT系列、Claude3等），并提供强大的数 ...

Hugging Face简介 对于非机器学习或深度学习领域的人士来说，Hugging Face这个名字可能并不耳熟。然而，随着近年来大模型的迅速崛起，相信大家或多或少都有所接触。如果你对这一领域感兴趣，并在GitHub上查阅过一些开源资料，那么你一定会频繁地看到Hugging Face的身影。例如， ...

本文的目标是演示如何在本地环境中搭建并体验AI模型，包括安装Ollama、Docker、Open WebUI，下载LLM开源大模型，并通过命令行或Web界面进行交互验证结果。 一、下载并安装Ollama 1. 什么是 Ollama？ Ollama 是一个开源的大型语言模型（LLM）服务工具，旨在帮助 ...

0 你的问题，我知道！ 没有职场认知而产生的疑惑： 遇到问题就死磕，觉得问人丢人，麻烦别人不好意思，结果问题没解决，自己先纠结半天； 觉得工作特努力，常加班，但好绩效无缘 面临裁员，愤怒为什么裁我，又因无规划，觉得惶恐 这些问题是不是很眼熟？你或多或少也想过？其实，认识职场就是： 认识职场的底层规律 ...

提示词 Design a website for a local plumbing service. Include sections for services, pricing, customer testimonials, and a contact form. Use a profession ...

0 前言 一般用application.yml实现Spring Boot应用参数配置。但Spring配置有优先级，避免重复配置项的覆盖，须清晰优先级。 Spring通过Environment抽象出： Profile：规定场景。定义诸如dev、test、prod等环境 Property：Propert ...

1 35 岁危机 35 是虚指，不一定 35 岁，也可是一个区间。有人 33 岁，有人是 40 岁。对技术人，到年龄确实明显困境。甚至不到 35 岁，网上招聘焦虑到32岁。 头部大厂小伙伴说晋升就像“续命卡”。升上去不一定稳，但可“多活”一两年，升不上去，不但目前绩效难保，甚至可能进入下一波裁员名单 ...

Agents从去年大模型火后就开始爆发，特别是今年2025又被称为Agents元年，像是要无处不存在Agents似的。Agent是什么，直译过来就是代理，但在国内人工智能领域通常被译为智能体。从智能体这个名字可以大概想象出这个Agents可能与智能相关，此概念出现已经有相当长时间了。随着大模型的爆发 ...

以pretrain_gpt.py为例, 看megatron的整体逻辑. 本章主要包括megatron初始化相关逻辑, 核心函数为initialize_megatron, setup_model_and_optimizer两个 initialize_megatron parse_args 从argpa ...

本文主要使用Qwen2ForSequenceClassification实现文本分类任务。 文章首发于我的知乎：https://zhuanlan.zhihu.com/p/17468021019 一、实验结果和结论 这几个月，在大模型分类场景做了很多实验，攒了一点小小经验。 1、短文本 1）query ...

场景自动化漏洞检测与分析代码扫描与漏洞识别：AI可以快速扫描项目依赖的代码库，利用机器学习算法识别潜在的安全漏洞。通过对大量已知漏洞代码模式的学习，AI能够准确地检测出类似的安全问题，提高漏洞检测的效率和准确性。漏洞优先级排序：在检测到多个漏洞时，AI可以根据漏洞的严重程度、影响范围和利用难度等因素 ...

基础概念 这是 让 LLM 来评判 系列文章的第一篇，敬请关注系列文章: 基础概念 选择 LLM 评估模型 设计你自己的评估 prompt 评估你的评估结果 奖励模型相关内容 技巧与提示 什么是评估模型？ 评估模型 (Judge models) 是一种 用于评估其他神经网络的神经网络。大多数情况下它 ...

场景AI公司资质评估通常发生在以下几种场景中：投资合作：当投资者或合作伙伴考虑与AI公司进行合作或投资时，他们需要对公司的资质进行全面评估，以确保合作或投资的安全性和可靠性。市场竞争：在激烈的市场竞争中，AI公司需要了解自身在行业中的位置和竞争力，以便制定更有效的市场策略。资质评估可以帮助公司明确自 ...

嗨~我是老包。目前专注AI智能体开发与教学 ，持续分享Coze智能体 、coze工作流搭建案例。 老包用扣子为小红书段子赛道博主捏了一个神器 名字是： 小红书 | 爆款段子赛道图文生成器 为什么要做这个智能体? ** ** 老包在小红书上发现许多博主分享段子笔记 点赞量达到了10w+ ...

提示词A human user is in dialogue with an AI. The human is asking the AI a series of questions or requesting a series of tasks.If the user's request refe ...

原始 RAG 框架在提升检索和生成答案质量方面，还有一些关键问题没解决： 找出来的文档真的跟用户问题相关吗？有时候可能找偏了。 找到的内容够不够回答用户的问题？会不会信息量不足？ 会不会有一堆没用的信息混进来，反而把答案搞乱了？ 检索速度够快吗？会不会让用户等太久？ 万一检索到的信息没法生成好答案， ...

聪明人往往很“懒”，但这种“懒”其实是高效的体现。他们总能找到解决复杂问题的最佳路径，用最少的力气获得最大的成果。 在RAG系统中，这种高效的实现往往是通过“分块”来实现的。你可以把它想象成把一本厚书分成几章——这样一来，阅读和理解就轻松多了。同样地，分块技术把大段复杂的文本拆分成更小、更容易处理的 ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 作者简介：魔都架构师，多家大厂后端一线研发经验，在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。具有丰富的引领团队经验，深厚业务架构和解决方案的积累。 负责： 中央/分销预订系统性能 ...