大模型部署

部署

  • 云服务部署
    优势:前期成本低,维护简单
    劣势:数据不安全,长期使用成本高

  • 本地机器部署
    优势:数据安全,长期成本低
    劣势:初期成本高,维护困难

  • 他人部署
    1.阿里云白炼
    2.百度智能云
    3.硅基流动
    4.火山引擎

OLLAMA

Ollama 是一种用于快速下载、部署、管理大模型的工具,(官网地址是:)[https://ollama.com/]

1.下载并安装Ollama :

image

2.选择并安装模型

选一个小点的模型:
image

安装命令:
image

ollama run qwen3:0.6b

image

其他方式访问

1.底部查看博文

image

2.找到题目为Thinking

image

  1. curl 调用案例:

image

4.使用postman访问

image

posted @ 2025-10-07 09:54  chuangzhou  阅读(26)  评论(0)    收藏  举报