Stay Hungry,Stay Foolish!

摘要: Code Llama https://about.fb.com/news/2023/08/code-llama-ai-for-coding/ Takeaways Code Llama is an AI model built on top of Llama 2, fine-tuned for gen 阅读全文
posted @ 2024-05-01 19:44 lightsong 阅读(2) 评论(0) 推荐(0) 编辑
摘要: 6 Ways For Running A Local LLM https://semaphoreci.com/blog/local-llm 1. Hugging Face and Transformers from transformers import AutoModelForCausalLM, 阅读全文
posted @ 2024-05-01 19:15 lightsong 阅读(2) 评论(0) 推荐(0) 编辑
摘要: FastChat https://github.com/lm-sys/FastChat 为服务基于大模型的chat应用, FastChat提供框架。 提供三个功能 training, serving, and evaluating 有评价功能、训练功能(fine tuning) 主要的还是 serv 阅读全文
posted @ 2024-05-01 19:07 lightsong 阅读(33) 评论(0) 推荐(0) 编辑
摘要: ollama https://ollama.com/ llama是meta发布的大语言模型, 自然意义是美洲鸵 这个平台软件 以 o 开头,类似召唤 美洲鸵的意思。 对应大语言模型,就是提供运行大模型的支撑。 Get up and running with large language models 阅读全文
posted @ 2024-05-01 11:03 lightsong 阅读(30) 评论(0) 推荐(0) 编辑
Life Is Short, We Need Ship To Travel