SAM3大模型部署+OpenSSH的ProxyJump学习并使用
1. SAM3大模型
META旗下的一款大模型SAM3,能够自动、泛化地分割图像或视频中的任意物体。
多模态提示(文本、点、框)的图像分割和视频分割。
基于Transformer的编码器-解码器,可以处理高分辨率图像,支持多GPU推理。
SAM3大模型部署
参考github中SAM3官方代码网站:
python+CUDA+ptorch版本
python==3.12、CUDA==12.8和ptorch==2.7
安装完对应环境后没有任何报错,环境安装完毕
模型下载
通过modelscope下载,modelscope中有中国源,下载非常快。
由于SAM3的model_builder.py代码中写了从Hugging Face中下载模型。
需要对对应参数进行修改。
禁用model_builder.py中build_sam3_image_model以及build_sam3_video_model方法中的load_from_HF
将load_from_HF值改为Flase。
再将modelscope拉取的大模型存放在目录的facebook/sam3中
OpenSSH的ProxyJump使用
之前没有解决的问题,关于ssh连接外网服务器,再连接内网GPU服务器
pycharm没办法用SSH代理SSH连接,所以有了这个问题。
使用 SSH config的方式完成代理
在windows端创建
C:\Users\asphyxiasea.ssh\config
config的创建必须没有后缀名,不然OpenSSH无法识别。
config中编辑
Host 180.142.111.195 # 代表目标机器的名字
HostName 180.142.111.195 # 这个是目标机器的 IP
Port 9068 # 目标机器 ssh 的端口
User root # 目标机器的用户名
IdentityFile C:\Users\asphyxiasea\.ssh\id_rsa #本地私钥位置
# 如果需要免密登录,负责连接的是跳板机本身,所以不需要本机的IdentityFile,而是代理机到目标机的IdentityFile
Host 10.16.28.80 # 代表目标机器的名字
HostName 10.16.28.80 # 这个是目标机器的 IP
Port 22 # 目标机器 ssh 的端口
User root # 目标机器的用户名
ProxyJump 180.142.111.195 #username@跳板机IP:port
设置完以后能在CMD中直接连接内网服务器,记得把公钥复制到目标服务器的ssh中去。
浙公网安备 33010602011771号