FastAPI__002__通过chatTTS把大模型响应数据从文本转语言并输出（简易版）

根据您提供的代码和描述，我将为您整理一份清晰的实现步骤。这份整理严格遵循您的要求，仅对内容进行排版，不进行任何内容上的改动、补充或解释。

---

实现步骤

有两个文件（①main.py ②speak.py）

①main.py

导入：

import traceback
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
import httpx
from speak import *
import threading
import uvicorn

说明：

这个文件的代码实现在：FastAPI__001__使用fastapi通过ollma调用本地大模型进行POST测试中已经讲过。

改动：

增加speak.py内部函数的调用，将接收到的文本传入speak内进行文本转语音，具体如下：

#使用result接收到响应数据，并将响应数据转成字典之后，添加以下代码
reply_text = result.get("response", "")
# 尝试调用 speak
print(f"准备调用 speak: {reply_text}")
# threading.Thread，用于创建一个子线程，不阻塞 HTTP 响应返回给客户端
threading.Thread(target=speak, args=(reply_text,)).start()

②speak.py

导入：

import torch
import ChatTTS
import sounddevice as sd

实现：

#实例化ChatTTS对象，
chat = ChatTTS.Chat()

#尝试调用gpu

#创建函数，接收文本

#设置发音种子

#使用infer方法生成输出

#使用sounddevice.play播放音频
sounddevice.play(audio, samplerate=24000)
#添加sounddevice.wait阻塞进程，避免函数立即返回，导致语音没有播放完毕
sd.wait()

视频演示：https://www.bilibili.com/video/BV1nBXzBLEhV?t=1.8

完整代码：
　　main.py
　　

import traceback
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
import httpx
from speak import *
import threading
import uvicorn

app = FastAPI(title="本地大模型 API")


class ChatRequest(BaseModel):
    message: str
    model: str = "qwen:0.5b"
    stream: bool = False


##路径为 /chat/，即客户端需向 http://your-server:8000/chat/ 发送 POST 请求
@app.post("/chat/")
async def chat(request: ChatRequest):
    try:
        async with httpx.AsyncClient(timeout=120.0) as client:
            response = await client.post(
                "http://localhost:11434/api/generate",
                json={
                    "prompt": request.message,
                    "model": request.model,
                    "stream": False
                }
            )

            if response.status_code != 200:
                raise HTTPException(status_code=500, detail="Model inference failed")

            result = response.json()
            reply_text = result.get("response", "")

            # 尝试调用 speak
            print(f"准备调用 speak: {reply_text}")

            # threading.Thread，用于创建一个子线程
            #target后接的是要运行的函数，不可以传"speak()",带括号会让函数立即执行并把返回值给target
            #args接收的值会传递给target，且值必须是一个元组
            #这是一个链式调用，start()表示启动线程
            threading.Thread(target=speak, args=(reply_text,)).start()

            return {
                "reply": result.get("response", ""),
                "model": request.model,
                "done": result.get("done", True)
            }
    except Exception as e:
        # 打印完整错误堆栈
        #返回当前异常的完整堆栈信息（字符串格式）
        error_detail = traceback.format_exc()
        print(f"完整错误信息:\n{error_detail}")
        #raise 表示主动抛出一个错误信息
        #status_code=500，表示服务器内部错误
        #detail是返回给客户端的信息
        raise HTTPException(status_code=500, detail=f"Error: {str(e)}")



if __name__ == "__main__":
    uvicorn.run(
        "main:app",
        host="127.0.0.1",
        port=8000,
        reload=True       # 开发时可开启自动重载
    )

　　

speak.py

import torch
import ChatTTS
import sounddevice as sd


print("正在加载 ChatTTS 模型...")

#开启GPU
device = "cuda" if torch.cuda.is_available() else "cpu"
print(f"当前设备: {device}")

chat = ChatTTS.Chat()
#选择把模型放到GPU上运行
chat.load(compile=False, device=device)


print("ChatTTS 加载完成 ✅")



def speak(text: str): #  : str 表示期望接收的是一个字符串
    try:
        if not text.strip(): #意思是如果文本连空白字符都没有，就退出函数
            print("空文本，跳过 TTS")
            return

        #固定发音的种子为666，每次都使用同一个声音
        torch.manual_seed(666)
        #infer方法是根据输出生成输出
        wavs = chat.infer(
            [text],
            #表示在生成过程中使用解码器
            use_decoder=True
        )

        audio = wavs[0]
        #采样率必须是 24kHz（ChatTTS 输出固定为此采样率）
        sd.play(audio, samplerate=24000)
        sd.wait()

        print("[TTS] 播放完成")

    except Exception as e:
        print(f"[TTS ERROR] {e}")