Cold_Chair的博客

摘要： 最近在一个新集群上，计算节点不能联网，只有特殊节点可以联网。 现在的代码仓库依赖 huggingface hub 很严重，模型和数据集只能在特殊节点先下载好，然后在计算节点加载缓存。 为了不用绝对目录，可以设置环境变量 HF_HOME： export HF_HOME="dir_to_pub/.cac 阅读全文

摘要： 公司内网环境要用 aTrust，访问另一网络环境又要用 *** 做代理。 发现访问某些内网环境的网站时（用域名访问，不是 ip 地址），开着 *** 会失败。 查看日志发现原因是 DNS 解析不到这个域名，原因是这个域名需要通过 aTrust 的 DNS 做解析。 于是本地终端 dig 了下 阅读全文

摘要： 下面内容是大模型生成的，目前试了下第一种方法可行，直接 curl 会失败。 假设有个文件 data.zip 在某个仓库，建议先共享到自己仓库里。 使用 gdown 下载 data.zip gdown 是一个Python包，因此您需要确保服务器上安装了Python和pip。 步骤 1: 获取 data 阅读全文

摘要： 体验 CPRet 立即访问我们的在线演示平台，亲身体验 CPRet 强大的算法题检索功能： 在线体验： https://www.cpret.online/ 欢迎大家把这个网站推荐给同学/老师。 很高兴向大家介绍我的本科毕业设计项目——CPRet，一个专为编程竞赛和算法题目设计的智能检索工具，目前总搜 阅读全文

摘要： chatgpt plus 实在是有点贵啊，最近换成了 gemini，淘宝上花几十块搞了个学生会员，日常使用也不会被限制。 但是 gemini 很烦的是，不管 flash 还是 pro，总是用英文回答，虽然也看得懂，但是速度就慢了。 参考：https://linux.do/t/topic/593501 阅读全文

摘要： 服务器上用 vllm 部署了多个 Qwen2.5-72B-Instruct 节点，都只支持单次推理，不支持批量推理。 要清洗数据，有上万个单轮请求，通过 GPT 写了一个简单的多线程批量推理脚本，基于线程锁，见下面： import openai import concurrent.futures i 阅读全文

摘要： 如题，无论怎么配置 rsa 的公钥和私钥那一套，都要输入密码才能登录。 一些新版本的 SSH 客户端默认可能会禁用或限制 rsa，在 config 里加入两行： HostKeyAlgorithms +ssh-rsa PubkeyAcceptedKeyTypes +ssh-rsa 这两行配置分别指定了 阅读全文

摘要： 完整问题： ValueError: You can't train a model that has been loaded with device_map='auto' in any distributed mode. Please rerun your script specifying --n 阅读全文

摘要： 我的 vscode 版本： January 2025 (version 1.97) 无论是在 remote-SSH 连接远程服务器时，还是本地编辑时，都会反复弹出： 我们卸载了“equinusocio.vsc-material-theme”，它被报告存在问题。 参考： https://github. 阅读全文

摘要： deepspeed 优化原理： 不是专门做优化的，只是使用的话，大致了解原理即可，参考： https://zhuanlan.zhihu.com/p/674745061 官网： https://github.com/microsoft/DeepSpeed 安装： 先安装 torch，再直接安装 dee 阅读全文