大模型的推理和训练

有人问，购买了大模型，怎么训练。日常使用模型，得到越来越精准的结果，以为这是训练大模型。事实上，使用者无法训练大模型，只是通过完善优化提示词，提升了推理。现阶段，训练只能是少数财力雄厚的大厂商可干的。

训练	推理
参与方	仅大模型厂商
开放性	封闭
硬件依赖	重度依赖英伟达 GPU（算力、生态）
技术复杂度	极高（模型架构设计、数据处理、大规模并行训练）
能耗	单轮训练能耗堪比一座小城的年用电量