合集-Ascend

摘要：1、FastAPI & Uvicorn FastAPI FastAPI 是一个用于构建 API 的现代、快速（高性能）的 Python Web 框架，专为在 Python 中构建 RESTful API 而设计，具有以下特点： 高性能 性能卓越：FastAPI 的性能可与 NodeJS 和 Go 等 阅读全文

摘要：背景 MindIE跑Qwen系列模型推理，测试发现后处理参数top_k很大，temperature=2的场景，模型输出有精度问题。 现象 经过进一步复现和测试，发现如下现象。 在Ascend的npu上面temperature=2和top_k很大时有精度问题。 添加图片注释，不超过 140 字（可选） 阅读全文