08 2023 档案

摘要:## 准备知识 PyTorch分布式通信的程序包相关的API。 - `torch.distributed.init_process_group()` ,初始化进程组。 - `torch.distributed.get_rank()`,可以获得当前进程的`rank`,`rank % torch.tor 阅读全文
posted @ 2023-08-16 18:34 ByteHandler 阅读(1102) 评论(0) 推荐(0)
摘要:DoctorGPT使用LLaMA2作为基座模型,在医疗对话数据上进行了SFT微调,然后通过强化学习(Reinforcement Learning)进一步提升了模型效果。支持离线部署,移动端运行仅需要3GB内存。 DoctorGPT github代码仓库:https://github.com/Spee 阅读全文
posted @ 2023-08-16 18:20 ByteHandler 阅读(807) 评论(4) 推荐(0)