07 2024 档案

LLAMA3.1 8B 本地部署并配合Obsidian建立本地AI知识管理系统
摘要：目前，LLAMA3.1模型分为8B、70B、405B三个版本，其中70B和405B对于显存的要求均已超过了一般家用电脑的配置(或者换个说法，用一张4090也是带不起来的)，所以运行8B即可。LLAMA3.1 8B的性能约相当于ChatGPT3.5。 经过我的测试4080、2080、intel ult 阅读全文
posted @ 2024-07-30 21:59 杜衡老师 阅读(874) 评论(0) 推荐(0)