如何在Semantic Kernel中使用第三方代理OpenAI API接口

最近手里没有官方的OpenAI API Key了,只能在第三方代理平台去购买API Key。
但是使用Semantic Kernel的时候发现AddOpenAIChatCompletion不像AddAzureOpenAIChatCompletion那样可以选择终结点
去看了下Semantic Kernel项目下的issues,这个问题被提及了好几次,但是官方仍然没有提供Endpoint。不过广大的开发者们想出了应对方法,就是对参数里的HttpClient进行更改。
有很多途径可以把HttpClient请求里的官方API域名改为第三方代理OpenAI域名,但是这里只提及一个我试了可以用的:

  1. 确保已安装包Microsoft.Extensions.Http
  2. 先自定义一个 HTTP 消息处理程序(DelegatingHandler),它用于处理 HTTP 请求并在发送请求前对请求进行修改。
  3. 重写其SendAsync方法,该方法在发送 HTTP 请求时被调用,将请求的目标 URI 修改为了一个新的 URI。
class CustomRedirectingHandler() : DelegatingHandler(new HttpClientHandler())
{
    protected override Task<HttpResponseMessage> SendAsync(
        HttpRequestMessage request, CancellationToken cancellationToken)
    {
        request.RequestUri = new UriBuilder(request.RequestUri!) { Host = "api.xxxxxx.com" }.Uri; //替换为第三方代理API的地址
        return base.SendAsync(request, cancellationToken);
    }
}

然后就可以在注册服务时使用了

        var builder = Kernel.CreateBuilder()
            .AddOpenAIChatCompletion(model, apiKey,httpClient:new HttpClient(new CustomRedirectingHandler()));

这个时候你拿到的IChatCompletionService就会将请求直接发送到第三方代理OpenAI API

posted @ 2024-04-16 15:51  汤问  阅读(203)  评论(0)    收藏  举报