AI的学习之路_1_基础环境准备

Py环境搭建

开发工具

开发工具使用的是PyCharm
安装教程自行搜索

环境管理工具

为了方便管理Python虚拟环境，使用的工具是Conda
安装教程自行搜索 推荐使用miniConda

环境配置

上述工具下载好之后
点击PyCharm设置

找到Python->解释器

点击添加解释器 本地解释器

选择安装的Conda的路径，并自定义名称后确定即可

这样Pychram的Python的环境就配置完成了

云端模型获取

本系列使用的是阿里的“阿里云百炼”平台
注册登录后
点击密钥管理后点击创建API Key即可

点击模型用量后可以查看免费的token额度和用量管理，避免产生额外的费用

测试

点击模型广场，选择一款你喜欢的模型

这里以qwen2.5-7b-instruct模型为例
点击模型进入后
下拉到API代码示例模块

选择好配置后
点击右侧的复制按钮
回到Pycharm页面
新建项目后新建py文件
复制刚刚拷贝的代码

import os
from openai import OpenAI

client = OpenAI(
    # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
    api_key="YOUR KEY",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(
    model="qwen2.5-7b-instruct-1m",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "你是谁？"},
    ],
    stream=True
)
for chunk in completion:
    print(chunk.choices[0].delta.content, end="", flush=True)

其中替换为刚刚申请的api key
这里的“你是谁”便是将会向模型提出的问题

右键->运行

它就生成出简易的回答啦

Key的隐藏

Api Key是一个非常重要的东西，一定要隐藏起来，不然就很容易被别人使用，最直接的影响就是自己的钱被花光
打开环境变量编辑页面
点击"用户变量"下的新建

变量名输入OPENAI_API_KEY
变量值将刚刚的API KEY复制进去就好
保存保存保存
配置好之后

client = OpenAI(
    # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)

里面就不用写api_key="YOUR KEY",了

本地模型

ollama

输入正确的网址 点击下载按钮

选择正确的系统下载即可

安装直接一路next就好
选择自己喜欢的模型下载下来
注意 ollama仅支持gguf格式的模型
下载完成后怎么打包，怎么导入ollama直接问豆包就好了
这是启动后的UI界面

右下角可以选择你喜欢的模型
直接提问也可以

选择模型的小技巧
看看你的显存是多少G的假如是8G，选择模型可以考虑4B 7B 不大于显存就好

完成后记得打开Ollama软件
将测试代码中的url换成下面的即可

client = OpenAI(
    base_url="http://localhost:11434/v1",
)

这是Ollama的本地端口，不需要提供key
模型名称记得换成你下载的本地模型名称
运行一下

风扇再转说明电脑正在运行你的本地模型