基于ollama和streamlit的聊天机器人

基于ollama和streamlit的聊天机器人

利用deepseek蒸馏模型 model='deepseek-r1:1.5b'这个可以在client.chat里头自己定义会自动下载

import streamlit as st
import ollama
client=ollama.Client(host='http://localhost:11434')
st.title("my chat robot")
if "message" not in st.session_state:
    st.session_state["message"] = []
prompt=st.chat_input("请输入你要问的问题")
if prompt:
    st.session_state["message"].append({"role":"user","content":prompt})
    #输出历史记录
    for msg in st.session_state["message"]:
        st.chat_message(msg["role"]).markdown(msg["content"])
    with st.spinner("思考中"):
        # 回答问题
        response = client.chat(
            model='deepseek-r1:1.5b',
            messages=[{"role": "user", "content": prompt}]
        )
        st.session_state["message"].append({"role":"assistant","content":response["message"]["content"]})
        st.chat_message("assistant").markdown(response["message"]["content"])

 结果：