今日试了anythingllm和 cherry studio 接本地大模型gguf ，发现anythingllm 不论是接入服务，还是直接使用gguf都有问，偶尔回答，大部分不回答的情况，换了不同的模型，也基本上是这样子。后来我换成打开llama.cpp的服务，效果也不好。

今日试了anythingllm和 cherry studio 接本地大模型gguf win10 +5G GPU，发现anythingllm  不论是接入服务，还是直接使用gguf都有，问偶尔回答，大部分不回答的情况；换了不同的模型，也基本上是这样子。后来我换成打开llama.cpp的服务，效果也不好。

貌似cherry studio 好一些。