操作系统 - 随笔分类 - DECHIN

摘要：

本文介绍了一个Ubuntu操作系统下如何挂载新硬盘，并配置重启开机默认挂载的流程和方法。阅读全文

posted @ 2025-10-16 10:23 DECHIN 阅读(114) 评论(0) 推荐(0)

摘要：

Ollama在本地普通算力机器上部署DeepSeek等大模型，有一定的生态优势。但是由于软件本身的一些策略问题，Windows平台的Ollama总是会随系统开机自动启动，还没有设置界面可以关闭。这里提供一种方法，可以在Windows平台永久关闭Ollama的开机自动启动功能。阅读全文

posted @ 2025-08-12 09:16 DECHIN 阅读(1044) 评论(0) 推荐(0)

VSCode手动版本更新

摘要：

本文简单的介绍了如何禁用VSCode的版本自动更新，以及禁用更新后如何手动更新，或者切换VSCode的版本。阅读全文

posted @ 2025-07-28 11:11 DECHIN 阅读(1538) 评论(0) 推荐(0)

conda环境部署脚本

摘要：

本文简单的介绍了一下在空白的Ubuntu Linux中安装conda的方法和脚本，其中包含了CUDA部分的安装。阅读全文

posted @ 2025-06-23 10:16 DECHIN 阅读(92) 评论(0) 推荐(0)

KTransformers实战DeepSeek-R1-1.58bit量化模型

摘要：

本文介绍了国产的大模型推理工具KTransformers在本地成功运行的一个案例，在容器化部署的基础上，结合Open WebUI做了一个用户友好的大模型服务。阅读全文

posted @ 2025-03-12 15:34 DECHIN 阅读(2232) 评论(0) 推荐(1)

Ollama+DeepSeek+SlackBot

摘要：

本文介绍了一种使用Slack聊天工具中的机器人SlackBot的API接口，实现本地化部署Ollama的DeepSeek大模型的远程通讯方案。相比于调用公网的API接口，数据隐私稍微好一点点。最终的方案应该是自建加密聊天工具+Ollama本地化部署，但是这个时间成本有点高，用户可以自行尝试。阅读全文

posted @ 2025-03-10 10:33 DECHIN 阅读(850) 评论(1) 推荐(1)

DeepSeek满血版测试

摘要：

本文收集了一些目前为止仅有DeepSeek满血版可以正确答复的“简单问题”，以供测试和验证自己所使用的模型是满血版DeepSeek还是残血版的DeepSeek。有两点需要提示：各大厂商模型可以联网更新，本问题集有一定的时效性；部分数学和推理类问题，跟temperature参数的设定有关，temperature参数设置的越低，回答越严谨。阅读全文

posted @ 2025-02-28 16:34 DECHIN 阅读(2707) 评论(0) 推荐(0)

bin格式转safetensors

摘要：

本文介绍了一种将Hugging Face上bin格式的大模型文件，在线转换为safetensors文件格式，然后下载到本地的方法。阅读全文

posted @ 2025-02-24 15:40 DECHIN 阅读(929) 评论(0) 推荐(0)

DeepSeek本地性能调优

摘要：

对于本地模型的加载来说，除了使用KTransformer等工具进行指令集层面的优化之外，还可以调整模型加载层数，做一个简单的优化。这里提供了一个num_gpu和num_ctx参数调整的策略，实测Tokens性能最大可优化10倍左右。阅读全文

posted @ 2025-02-21 10:53 DECHIN 阅读(2812) 评论(0) 推荐(0)

Ollama模型迁移

摘要：

为了方便本地大模型部署和迁移，本文提供了一个关于Ollama的模型本地迁移的方法。由于直接从Ollama Hub下载下来的模型，或者是比较大的GGUF模型文件，往往会被切分成多个，而文件名在Ollama的路径中又被执行了sha256散列变换。因此我们需要从索引文件中获取相应的文件名，再进行模型本地迁移。阅读全文

posted @ 2025-02-20 16:34 DECHIN 阅读(2537) 评论(0) 推荐(1)

DeepSeek智能编程

摘要：

本文介绍了两种智能编程的方案，一种是使用Cursor结合远程API形式的智能化自动编程，另一种方案是VSCode插件结合本地部署的Ollama模型来进行智能编程。用户可以根据自己的需求来选择一种合适的交互方案，总体来说智能化、自动化的编程已经近在眼前了。阅读全文

posted @ 2025-02-19 17:45 DECHIN 阅读(2616) 评论(0) 推荐(2)

大模型工具KTransformer的安装

摘要：

本文主要介绍的是国产高性能大模型加载工具KTransformer的安装方法。之所以是使用方法，是因为该工具对本地的硬件条件还是有一定的要求。如果是型号过于老旧的显卡，有可能出现TORCH_USE_CUDA_DSA相关的一个报错。而这个问题只能通过换显卡来解决，所以作者本地并未完全测试成功，只是源码安装方法和Docker安装方法经过确认没有问题。阅读全文

posted @ 2025-02-19 10:28 DECHIN 阅读(5954) 评论(32) 推荐(1)

DeepSeek模型量化

摘要：

这篇文章主要介绍了llama.cpp这一大模型工具的使用。因为已经使用Ollama来run大模型，因此仅介绍了llama.cpp在HF模型转GGUF模型中的应用，及其在大模型量化中的使用。大模型的参数量化技术，使得我们可以在本地有限预算的硬件条件下，也能够运行DeepSeek的蒸馏模型。阅读全文

posted @ 2025-02-17 14:11 DECHIN 阅读(3396) 评论(2) 推荐(0)

DeepSeek+PageAssist实现本地大模型联网

摘要：

这篇文章主要介绍了通过使用PageAssist，来使得本地部署的DeepSeek模型可以联网搜索的方案。阅读全文

posted @ 2025-02-14 17:02 DECHIN 阅读(5356) 评论(1) 推荐(0)

DeepSeek+Zotero

摘要：

这篇文章介绍了一种在Zotero科研文献阅读管理软件中，使用Awesome GPT插件配置Ollama-DeepSeek文本生成模型+BAAI-bgeM3嵌入模型，来解析和理解科研论文的一种方法。借此可以简化一部分繁杂的论文学习过程，也许可以提升科学研究的效率。阅读全文

posted @ 2025-02-11 14:19 DECHIN 阅读(4206) 评论(0) 推荐(4)

DeepSeek部署本地知识库

摘要：

大模型之大，可以训练我们所有人日常生活学习工作可能使用到的所有知识。但是完整的大模型，要实现一个本地化的部署，可能是有点困难，因此才有了大模型的蒸馏技术。蒸馏之后大模型可能会损失大多数的行业知识，而我们可以通过本地知识库构建的方法，在本地构建一个私有的专业大模型。阅读全文

posted @ 2025-02-08 15:16 DECHIN 阅读(14240) 评论(0) 推荐(7)

Windows11本地部署DeepSeek加速

摘要：

本文介绍了一个可以相比之下更快速的在本地部署DeepSeek的方法，除了在上一篇博客中介绍的从Github或者Github加速网站获取Ollama之外，还可以通过从国内的其他大模型文件平台下载模型文件，来加速本地模型的构建。阅读全文

posted @ 2025-02-07 15:12 DECHIN 阅读(15531) 评论(1) 推荐(7)

Ubuntu Linux部署DeepSeek

摘要：

本文介绍了通过Ollama在Ubuntu Linux平台上部署DeepSeek本地大模型的方法，并且可以使用ChatBox调用本地Ollama API进行本地对话或者是远程对话。阅读全文

posted @ 2025-02-06 10:16 DECHIN 阅读(31446) 评论(10) 推荐(6)

Markdown转Beamer

摘要：

通过使用pandoc，使得我们可以直接将普通的Markdown文件编译成一个Latex Beamer PDF格式的演示文稿文件。相比于RMarkdown有更强的灵活性和通用性，只是不能在生成文稿时运行相关代码，不过这点对于那些只需要一个“静态”演示文稿的人来说影响不大。阅读全文

posted @ 2024-12-25 16:54 DECHIN 阅读(361) 评论(0) 推荐(0)

Conda环境Git Pull报错

摘要：

本文总结了一个在conda环境下使用git pull出现报错：symbol lookup error: /lib/x86_64-linux-gnu/libp11-kit.so.0: undefined symbol: ffi_type_pointer的问题。通过建立软链接到版本更新的系统环境下的动态链接库中，即可解决该问题。阅读全文

posted @ 2024-11-19 15:15 DECHIN 阅读(269) 评论(0) 推荐(0)

Dechin的博客

研究兴趣: 分子动力学模拟、量子计算与量子算法、Python编程与深度学习

随笔分类 - 操作系统

公告