• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
magicat
博客园    首页    新随笔    联系   管理    订阅  订阅
2025年10月23日
RTX5060TI 配置Xinference
摘要: RTX5060TI 配置Xinference CUDA (llama-factory) D:\P\llm\LLaMA-Factory>nvcc -V nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2025 NVIDIA Corpor 阅读全文
posted @ 2025-10-23 16:57 magicat 阅读(2) 评论(0) 推荐(0)
npu配置Xinference环境,并部署embedding和rerank模型
摘要: 在我司服务器上部署,但是尝试了其他文章的docker镜像,出现算子错误等问题,后面又用回 参考文献 https://blog.csdn.net/sccum/article/details/145995250 https://blog.csdn.net/qq_41994821/article/deta 阅读全文
posted @ 2025-10-23 16:32 magicat 阅读(4) 评论(0) 推荐(0)
RTX 5060TI 部署llama-factory
摘要: 搭建环境 NVIDIA驱动略,CUDA略 (llama-factory) D:\P\llm\LLaMA-Factory>nvcc -V nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2025 NVIDIA Corporation B 阅读全文
posted @ 2025-10-23 15:25 magicat 阅读(2) 评论(0) 推荐(0)
博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3