2023年7月7日
机器学习洞察 | 降本增效，无服务器推理是怎么做到的？
摘要： 2022 年，无服务器推理受到了越来越多的关注。常见的推理方式包括实时推理、批量转换和异步推理： 实时推理：具有低延迟、高吞吐、多模型部署的特点，能够满足 A/B 测试的需求 批量转换：能够基于任务 (Job-based) 的系统进行大数据集的处理 异步推理：具有近实时、大负载 (1 GB) 的优势 阅读全文
posted @ 2023-07-07 23:27 亚马逊云开发者 阅读(114) 评论(0) 推荐(0)