AMD MI50 32G显卡在Ubuntu22.04下搭建试玩体验

    之前搞了一个二奶机5600G+MI50(32G)平台跑大语言模型,一直在win平台上使用,主要是通过LM Studio+Vulkan使用(傻瓜式),近期尝试了下在linux下搭建和使用,主要是想试下rocm下输出。

以下水下搭建方案和体验。

image

 

搭建环境:

1.系统:Ubuntu22.04

Ubuntu22.04网上比较推荐这个版本,主要是驱动问题好解决,另外就是安装显卡驱动和rocm支持。gpu驱动这边用的amdgpu-install_6.3.60303-1_all.deb,供参考。

2.硬件:

CPU:5600G

主板:华硕TUF B450-PRO GAMING

内存:ddr4 2400 32G(垃圾内存混搭,能跑就行)

显卡:MI50 32G(风扇插在主板一个pwm控制口上)

3.模型平台:Ollama (v0.12.3)

参考网上教程安装,主要是下载比较费劲,使用curl很难下载完整,需要些技巧,不耐心琢磨可能就停这一步了。

直接Github上下载“ollama-linux-amd64.tgz”、“ollama-linux-amd64-rocm.tgz”,但是下载会很慢,容易中断,这边是使用了魔法上网 + “Free Download Manager”才完成下载,过程中会反复中断拉起,而且可能下载链接会中途失效,这时需要重新从GitHub中获取新的下载链接地址来更新下载器中下载链接,实现接续下载。

建议使用v0.12.3,网上教程大多用更旧的版本。新的Ollamav0.12.4开始将不再支持MI50GPU了,后续新版本可能会通过Vulkan接口来支持。

ollama安装不水,教程比较多,这里说下ollama更新,主要是版本更新确实快,建议直接删掉\usr\lib\ollama,然后重新解压到这里。

sudo tar -C /usr -xzf ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

4.对外访问人机交互:Open WebUI

找教程需要注意,有些文章提供的docker很难访问到,提供一个我用到的,供参考。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

5.模型使用

qwen3:32b

qwen3:30b 8bit量化

gpt-oss:20b

deepseek-r1:32b

比较推荐qwen3:30b 8bit量化,刚好利用上了32G显存,且输出速度也足够快。

尽量直接命令拉取,用guff格式导入时部分模型会出现胡乱输出的情况, 这边就遇到回答直接吐出训练资料的情况,很奇葩。

image

 

 

关于网络设置(主要是网络对外访问,和本地安装部署无关)

这个上踩了些坑。这边想在最外局域网中访问,但是自己这边用了两级的路由,第一级是小米的无线路由,以及上一级让r2s软路由。本来应该路由端口映射就行,小米的傻瓜路由配置下就通过了(3000端口映射到8089),结果r2s上的openwrt上配置端口映射怎么弄都不行,不知道是自己菜没配置对,还是openwrt本身的菜单设置缺陷,外部始终无法打通。

后面找了别的方法才解决,主要是需要在openwrt上通过终端命令配置端口映射:

iptables -t nat -A PREROUTING -p tcp --dport 8089 -j DNAT --to-destination 192.168.11.3:8089
iptables -t nat -A POSTROUTING -p tcp -d 192.168.11.3 --dport 8089 -j MASQUERADE

永久生效

echo "iptables -t nat -A PREROUTING -p tcp --dport 8089 -j DNAT --to-destination 192.168.11.3:8089" >> /etc/firewall.user
echo "iptables -t nat -A POSTROUTING -p tcp -d 192.168.11.3 --dport 8089 -j MASQUERADE" >> /etc/firewall.user

命令分别用于将进入的流量重定向到内部IP地址,并确保从内部地址返回的流量被正确处理。

 

关于MI50的风扇控制问题

之前很长一段时间都是win上使用,主要是win上解决了MI50风扇控制问题,使用‌Fan-Control软件+HWInfo解决。Ubuntu上没法解决主板ITE IT8655E驱动问题,所以一开机就会比较吵(MI50发热比较大,夏天时不敢怠慢,配置的转速比较高)。

后面自己倒腾了下,还是解决了,而且感觉ubuntu风扇控制比win上更好。Win上HWInfo上处理不好传感器配置会经常丢,而且必须要登录桌面使用,ubuntu上处理好后,就直接后台工作了,更适合服务器形式上电使用。

解决方案:使用非官方 IT87 DKMS 驱动来驱动ITE IT8655E

git clone https://github.com/frankcrawford/it87.git

cd it87

sudo make dkms

sudo cp -r . /usr/src/it87-1.0

sudo dkms add it87/1.0

sudo dkms install it87/1.0

sudo modprobe it87

echo "it87" | sudo tee /etc/modules-load.d/it87.conf

(可以找下其他ITE IT芯片完整的教程参考)

控制风扇转速软件使用CoolerControl,类似Fan-Control。

image

 

另外LM Studio在ubuntu下也可以使用,也做了尝试,但是好像32G显存只能用到一半,32B模型没法把模型都加载到显存,输出会很慢,不知道其他人有没有遇到过,或有解决方法。

 

-----------------------------------------

更新20251029:

驱动升级到了6.4.60404,可以正常工作,去AMD官网下载即可。

网上有人升级到Rocm7.0.2,号称输出有较大提升,有空试试。

posted @ 2025-10-15 20:33  猿妙不可言  阅读(44)  评论(0)    收藏  举报