摘要：
minikue ssh到node上可以直接访问pod 和 service。 例如curl pod_ip 或者curl servcie_ip。 如果想在外面访问： 需要ingress 或者nodePort类型，curl $(minikube ip) 或者需要port-forward，curl $(mi 阅读全文
posted @ 2025-07-27 11:49
iTech
阅读(15)
评论(0)
推荐(0)
摘要：
  阅读全文
posted @ 2025-07-26 14:58
iTech
阅读(15)
评论(0)
推荐(0)
摘要：
在提升模型强推理能力的努力上，SFT蒸馏和强化学习被社区广泛探索： 直接利用SFT蒸馏可以学习到数据中的推理范式，虽然在推理分数上的表现有所提升，但是更多是去拟合数据中的Pattern, 很难学习到数据背后的数学规律和MetaCoT 强化学习则是通过试错和尝试，鼓励模型在最大化奖励过程中学习到推理背 阅读全文
posted @ 2025-06-13 12:10
iTech
阅读(103)
评论(0)
推荐(0)
摘要：
NLP and transform https://github.com/datawhalechina/happy-llm/tree/main ──────────────────────────────────────────────────────── 预训练（Pre-training） ─── 阅读全文
posted @ 2025-06-11 21:48
iTech
阅读(557)
评论(0)
推荐(0)
摘要：
LLaMA-Factory https://github.com/hiyouga/LLaMA-Factory 什么是 LLaMA-Factory？ LLaMA-Factory 是一个由开源社区开发的工具包，旨在简化 Meta 推出的大型语言模型 LLaMA 的配置、训练和部署过程。它提供了一组易于使 阅读全文
posted @ 2025-06-11 21:46
iTech
阅读(507)
评论(0)
推荐(0)
摘要：
LLM deploy for inference (tensor parallelism, data parallelism, pipeline parallelism, expert parallelism for MOE) vLLM worker or SGLang worker or http 阅读全文
posted @ 2025-06-11 21:42
iTech
阅读(49)
评论(0)
推荐(0)
摘要：
TensorFlow、PyTorch和Triton是机器学习领域常用的深度学习框架和工具，而CUDA和Google的TPU则是与硬件加速相关的技术和产品。它们在机器学习模型的训练和推理中发挥着重要作用，利用GPU或TPU可以显著提升计算速度和效率。 TensorFlow： 由Google开发的开源机 阅读全文
posted @ 2025-06-11 21:34
iTech
阅读(50)
评论(0)
推荐(0)
摘要：
LLM蒸馏过程是指将大型语言模型（LLM）中的知识和权重转移到一个较小的模型中，以减少计算成本和内存占用，同时保持原有模型的性能。这个过程也被称为模型蒸馏或知识蒸馏。以下是LLM蒸馏过程的概述： 背景 大型语言模型虽然能够取得非常好的性能，但其计算成本和内存占用非常高，这使得它们难以部署在资源有限的 阅读全文
posted @ 2025-06-11 21:32
iTech
阅读(85)
评论(0)
推荐(0)
摘要：
在 Python 中，协程（asyncio）、多线程（multithreading）和多进程（multiprocessing）是实现并发和并行的三种主要方式。它们各有优劣，适用于不同场景。以下是它们的比较、使用实例和适用场景。 🔄 一、概述 1. 协程（Coroutines） 基于事件循环（asy 阅读全文
posted @ 2025-06-03 22:52
iTech
阅读(176)
评论(0)
推荐(0)
摘要：
以下是 Python 中被广泛使用的 高级功能，适用于构建复杂系统、提升代码效率和可读性： 1. 生成器（Generators） 用途：惰性求值（Lazy Evaluation），节省内存。 语法：使用 yield 关键字。 适用场景：处理大数据流、文件读取、无限序列等。 def fibonacci 阅读全文
posted @ 2025-06-03 22:39
iTech
阅读(108)
评论(0)
推荐(0)
摘要：
ai-agents-for-beginners https://microsoft.github.io/ai-agents-for-beginners AI Agents are systems that enable Large Language Models(LLMs) to perform a 阅读全文
posted @ 2025-06-03 21:55
iTech
阅读(53)
评论(0)
推荐(0)
摘要：
https://github.com/HKUDS/LightRAG/blob/main/lightrag/api/README-zh.md LightRAG 服务器和 Web 界面 LightRAG 服务器旨在提供 Web 界面和 API 支持。Web 界面便于文档索引、知识图谱探索和简单的 RAG 阅读全文
posted @ 2025-06-02 23:53
iTech
阅读(3349)
评论(0)
推荐(0)
摘要：
https://fast-agent.ai/#getting-started fast-agent lets you create and interact with sophisticated Agents and Workflows in minutes. It's multi-modal - 阅读全文
posted @ 2025-06-02 23:45
iTech
阅读(345)
评论(0)
推荐(0)
摘要：
随着大模型的能力的增强，使用像google adk类似的工具开发AI agent 变得相当容易。 ADK 旨在使开发人员能够构建、管理、评估和部署 AI 驱动的代理。它为创建对话和非对话代理提供了一个强大而灵活的环境，能够处理复杂的任务和工作流程。 simple agent： import date 阅读全文
posted @ 2025-06-01 21:01
iTech
阅读(91)
评论(1)
推荐(0)
摘要：
mcp server # my_server.py from fastmcp import FastMCP from datetime import datetime import json mcp = FastMCP(name="MyServer") # 工具示例 @mcp.tool() def 阅读全文
posted @ 2025-06-01 20:16
iTech
阅读(431)
评论(0)
推荐(0)
摘要：
global 与 nonlocal 的区别总结 特性globalnonlocal 作用域层级 全局作用域（模块级别） 外层嵌套作用域（函数内部的函数） 适用场景 修改全局变量 修改外层函数的变量（闭包） 是否影响局部变量 不影响局部变量，但会修改全局变量 不影响全局变量，但会修改外层函数的变量 能否 阅读全文
posted @ 2025-06-01 18:03
iTech
阅读(24)
评论(0)
推荐(0)
摘要：
以下是综合多篇文档整理的Python高级用法汇总，从语法糖到复杂特性分层呈现，重点特性附代码示例及出处引用： 一、语法糖与简洁写法（从简到繁） 变量交换 无需临时变量实现值交换： a, b = b, a # 传统方式需要temp变量 海象运算符（:=） Python 3.8+允许在表达式中赋值： i 阅读全文
posted @ 2025-04-04 11:11
iTech
阅读(314)
评论(0)
推荐(0)
摘要：
以下是一个整合 FastAPI 核心安全功能与模板渲染的完整示例，基于多个技术文档的最佳实践，包含登录、CSRF、JWT、会话、认证和缓存功能： from datetime import datetime, timedelta from fastapi import FastAPI, Request 阅读全文
posted @ 2025-04-04 10:10
iTech
阅读(163)
评论(0)
推荐(0)
摘要：
以下是一个整合 FastAPI 核心功能的完整示例代码，涵盖 WebSocket、后台任务、生命周期事件、中间件配置及会话管理。代码结构参考了多个技术文档的最佳实践： from contextlib import asynccontextmanager from fastapi import Fas 阅读全文
posted @ 2025-04-04 09:24
iTech
阅读(203)
评论(0)
推荐(0)
摘要：
以下是当前最火的 Python 异步 Web 框架的综合对比分析，涵盖性能、技术特性和适用场景，并补充其他值得关注的框架： 一、主流异步框架横向对比 1. FastAPI • 核心优势：基于 Starlette 和 Pydantic，性能可达 5k+ QPS，支持自动生成 OpenAPI/Swagg 阅读全文
posted @ 2025-04-04 08:40
iTech
阅读(641)
评论(1)
推荐(0)
摘要：
以下是2025年最流行的5个Python ASGI服务器及其核心特性与适用场景： 1. Uvicorn • 核心优势： • 基于uvloop和httptools，性能远超传统WSGI服务器，支持HTTP/1.1和WebSocket。 • 与FastAPI深度集成，开发体验极简，提供自动重载和HTTP 阅读全文
posted @ 2025-04-04 08:24
iTech
阅读(329)
评论(0)
推荐(0)
摘要：
以下是 Python 环境管理工具 uv 从入门到精通的系统性指南，基于 2025 年最新版本特性整理： 一、uv 核心优势与适用场景 极速性能 • 基于 Rust 开发，依赖解析速度比传统工具快 10-100 倍（如安装 torch 等大型包仅需几秒）。 • 并发下载和智能缓存机制，减少等待时间。 阅读全文
posted @ 2025-04-03 22:44
iTech
阅读(3616)
评论(0)
推荐(0)
摘要：
Python 类型检查与类型注解：mypy 与 typing 深度解析 在 Python 动态类型语言中，mypy 和 typing 是两个提升代码健壮性的核心工具。它们通过静态类型检查与类型注解，帮助开发者在编码阶段捕获潜在错误，同时提高代码可读性和可维护性。以下是它们的核心功能、用法及实践建议： 阅读全文
posted @ 2025-03-31 22:51
iTech
阅读(324)
评论(0)
推荐(0)
摘要：
WSGI、Starlette、Uvicorn 与 Gunicorn 的核心介绍及使用指南 一、技术定位与核心差异 WSGI（Web Server Gateway Interface） • 定义：传统的 Python Web 服务器与框架间的同步协议，适用于 Flask、Django 等同步框架。 • 阅读全文
posted @ 2025-03-31 22:44
iTech
阅读(470)
评论(0)
推荐(0)
摘要：
为什么选择 FastAPI？ 高性能：基于 Starlette 和 Uvicorn，支持异步请求处理 开发效率：自动交互文档、类型提示、代码自动补全 现代标准：兼容 OpenAPI 和 JSON Schema 易扩展：模块化设计，支持中间件和依赖注入 以下是一个使用 FastAPI 最新特性 (0. 阅读全文
posted @ 2025-03-31 22:15
iTech
阅读(153)
评论(0)
推荐(0)
摘要：
# typer_demo.py import typer from pathlib import Path from typing import Optional from typing_extensions import Annotated app = typer.Typer(rich_marku 阅读全文
posted @ 2025-03-31 21:49
iTech
阅读(47)
评论(0)
推荐(0)
摘要：
比较 对比维度MCP（Model Context Protocol）Function CallingAgent（智能体） 定义 由 Anthropic 推出的开放协议，标准化 LLM 与外部数据源、工具的通信接口 。 LLM 调用外部函数的机制，通过 JSON 参数规范模型与外部系统的交 阅读全文
posted @ 2025-03-29 11:09
iTech
阅读(1969)
评论(0)
推荐(0)
摘要：
npm install -D pnpm npm install -D vite pnpm create vite my-react-app --template react-ts npx vite --help vite build --base=/my/public/path/ pnpm dev 阅读全文
posted @ 2025-03-22 11:20
iTech
阅读(38)
评论(0)
推荐(0)
摘要：
MCP is an open protocol that enables AI models to securely interact with local and remote resources through standardized server implementations. https 阅读全文
posted @ 2025-03-17 21:09
iTech
阅读(92)
评论(0)
推荐(0)
摘要：
Service Reliability Management: A Comprehensive Overview Service reliability management is a critical practice aimed at ensuring that online services 阅读全文
posted @ 2025-03-09 11:18
iTech
阅读(49)
评论(1)
推荐(0)
浙公网安备 33010602011771号