2023年6月25日
如何高效地使用text-embedding-ada-002接口
摘要： 1. 使用 Batch 进行 Embedding：由于在使用嵌入模型时，前向传播可以一次性处理多个样本，因此可以尝试使用 Batch 在一次请求中处理多个文本样本。Batch 大小可以根据具体的情况进行调整，并根据服务器的性能和配置进行优化。通常来说，适当增大 Batch 大小可以提高模型的处理效率 阅读全文
posted @ 2023-06-25 22:03 johnny_zhao 阅读(2426) 评论(0) 推荐(0)