Dechin的博客

摘要： 本文主要介绍的是国产高性能大模型加载工具KTransformer的安装方法。之所以是使用方法，是因为该工具对本地的硬件条件还是有一定的要求。如果是型号过于老旧的显卡，有可能出现TORCH_USE_CUDA_DSA相关的一个报错。而这个问题只能通过换显卡来解决，所以作者本地并未完全测试成功，只是源码安装方法和Docker安装方法经过确认没有问题。 阅读全文

摘要： 这篇文章主要介绍了llama.cpp这一大模型工具的使用。因为已经使用Ollama来run大模型，因此仅介绍了llama.cpp在HF模型转GGUF模型中的应用，及其在大模型量化中的使用。大模型的参数量化技术，使得我们可以在本地有限预算的硬件条件下，也能够运行DeepSeek的蒸馏模型。 阅读全文

摘要： 这篇文章主要介绍了通过使用PageAssist，来使得本地部署的DeepSeek模型可以联网搜索的方案。 阅读全文

摘要： 这篇文章介绍了一种在Zotero科研文献阅读管理软件中，使用Awesome GPT插件配置Ollama-DeepSeek文本生成模型+BAAI-bgeM3嵌入模型，来解析和理解科研论文的一种方法。借此可以简化一部分繁杂的论文学习过程，也许可以提升科学研究的效率。 阅读全文

摘要： 大模型之大，可以训练我们所有人日常生活学习工作可能使用到的所有知识。但是完整的大模型，要实现一个本地化的部署，可能是有点困难，因此才有了大模型的蒸馏技术。蒸馏之后大模型可能会损失大多数的行业知识，而我们可以通过本地知识库构建的方法，在本地构建一个私有的专业大模型。 阅读全文

摘要： 本文介绍了一个可以相比之下更快速的在本地部署DeepSeek的方法，除了在上一篇博客中介绍的从Github或者Github加速网站获取Ollama之外，还可以通过从国内的其他大模型文件平台下载模型文件，来加速本地模型的构建。 阅读全文

摘要： 本文介绍了通过Ollama在Ubuntu Linux平台上部署DeepSeek本地大模型的方法，并且可以使用ChatBox调用本地Ollama API进行本地对话或者是远程对话。 阅读全文

摘要： 基于CudaSPONGE高性能分子动力学模拟采样工具，和PySAGES高性能增强采样软件，我简单的封装了一个SpongeExt插件，可以用于无感结合CudaSPONGE和PySAGES进行增强采样分子动力学模拟。 阅读全文

摘要： 接上一篇介绍的基本Markdown通过pandoc编译转为Beamer风格文档的文章，本文主要介绍一些Markdown转Beamer其中的进阶用法。如Mermaid流程图，和Algorithms算法伪代码的使用等。 阅读全文

摘要： 接前一篇关于PySAGES结合CudaSPONGE使用方法的文章，本文主要还是使用了一样的测试案例。仅通过不同的测试步长，来定性的分析PySAGES的MetaDynamics实现方案结合MD软件之后的性能数据。 阅读全文

摘要： 通过使用pandoc，使得我们可以直接将普通的Markdown文件编译成一个Latex Beamer PDF格式的演示文稿文件。相比于RMarkdown有更强的灵活性和通用性，只是不能在生成文稿时运行相关代码，不过这点对于那些只需要一个“静态”演示文稿的人来说影响不大。 阅读全文

摘要： 本文探索并梳理了一下CUDA SPONGE高性能分子模拟采样软件，和PySAGES高性能增强采样软件，这两者强强联合的MD模拟新范式。 阅读全文

摘要： 接上一篇文章介绍的矩阵特征分解，本文介绍了矩阵特征分解在主成分分析（PCA）算法中的应用。对于PCA算法，最直观的理解就是，在高维数据中找到一个低维的空间，使得所有的数据点投影到该低维空间之后尽可能的分离。 阅读全文

摘要： 本文介绍了一下使用Numpy计算矩阵的特征值求解和特征值分解问题。Numpy的eig特征求解函数可以直接输出给定矩阵所有的特征值，和对应的所有特征列向量所构成的矩阵。再使用Numpy的矩阵求逆函数，即可得到相关矩阵的EVD特征值分解。 阅读全文

摘要： 本文介绍了高性能GPU分子动力学模拟软件CudaSPONGE的Python API接口，通过官方开发的prips插件，使得我们可以在Python框架下很方便的开发一些分子动力学模拟的Force Wrapper，例如Meta Dynamics中就有很多可以外界的工具，非常方便开发者的二次开发，同时又能够兼顾到性能。 阅读全文