大模型部署
部署
-
云服务部署
优势:前期成本低,维护简单
劣势:数据不安全,长期使用成本高 -
本地机器部署
优势:数据安全,长期成本低
劣势:初期成本高,维护困难 -
他人部署
1.阿里云白炼
2.百度智能云
3.硅基流动
4.火山引擎
OLLAMA
Ollama 是一种用于快速下载、部署、管理大模型的工具,(官网地址是:)[https://ollama.com/]
1.下载并安装Ollama :

2.选择并安装模型
选一个小点的模型:

安装命令:

ollama run qwen3:0.6b

其他方式访问
1.底部查看博文

2.找到题目为Thinking

- curl 调用案例:

4.使用postman访问

本文来自博客园,作者:chuangzhou,转载请注明原文链接:https://www.cnblogs.com/czzz/p/19128222

浙公网安备 33010602011771号