AMD MI50 32G显卡在Ubuntu22.04下搭建试玩体验
之前搞了一个二奶机5600G+MI50(32G)平台跑大语言模型,一直在win平台上使用,主要是通过LM Studio+Vulkan使用(傻瓜式),近期尝试了下在linux下搭建和使用,主要是想试下rocm下输出。
以下水下搭建方案和体验。

搭建环境:
1.系统:Ubuntu22.04
Ubuntu22.04网上比较推荐这个版本,主要是驱动问题好解决,另外就是安装显卡驱动和rocm支持。gpu驱动这边用的amdgpu-install_6.3.60303-1_all.deb,供参考。
2.硬件:
CPU:5600G
主板:华硕TUF B450-PRO GAMING
内存:ddr4 2400 32G(垃圾内存混搭,能跑就行)
显卡:MI50 32G(风扇插在主板一个pwm控制口上)
3.模型平台:Ollama (v0.12.3)
参考网上教程安装,主要是下载比较费劲,使用curl很难下载完整,需要些技巧,不耐心琢磨可能就停这一步了。
直接Github上下载“ollama-linux-amd64.tgz”、“ollama-linux-amd64-rocm.tgz”,但是下载会很慢,容易中断,这边是使用了魔法上网 + “Free Download Manager”才完成下载,过程中会反复中断拉起,而且可能下载链接会中途失效,这时需要重新从GitHub中获取新的下载链接地址来更新下载器中下载链接,实现接续下载。
建议使用v0.12.3,网上教程大多用更旧的版本。新的Ollamav0.12.4开始将不再支持MI50GPU了,后续新版本可能会通过Vulkan接口来支持。
ollama安装不水,教程比较多,这里说下ollama更新,主要是版本更新确实快,建议直接删掉\usr\lib\ollama,然后重新解压到这里。
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz
4.对外访问人机交互:Open WebUI
找教程需要注意,有些文章提供的docker很难访问到,提供一个我用到的,供参考。
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
5.模型使用
qwen3:32b
qwen3:30b 8bit量化
gpt-oss:20b
deepseek-r1:32b
比较推荐qwen3:30b 8bit量化,刚好利用上了32G显存,且输出速度也足够快。
尽量直接命令拉取,用guff格式导入时部分模型会出现胡乱输出的情况, 这边就遇到回答直接吐出训练资料的情况,很奇葩。

关于网络设置(主要是网络对外访问,和本地安装部署无关)
这个上踩了些坑。这边想在最外局域网中访问,但是自己这边用了两级的路由,第一级是小米的无线路由,以及上一级让r2s软路由。本来应该路由端口映射就行,小米的傻瓜路由配置下就通过了(3000端口映射到8089),结果r2s上的openwrt上配置端口映射怎么弄都不行,不知道是自己菜没配置对,还是openwrt本身的菜单设置缺陷,外部始终无法打通。
iptables -t nat -A PREROUTING -p tcp --dport 8089 -j DNAT --to-destination 192.168.11.3:8089
iptables -t nat -A POSTROUTING -p tcp -d 192.168.11.3 --dport 8089 -j MASQUERADE
永久生效
echo "iptables -t nat -A PREROUTING -p tcp --dport 8089 -j DNAT --to-destination 192.168.11.3:8089" >> /etc/firewall.user
echo "iptables -t nat -A POSTROUTING -p tcp -d 192.168.11.3 --dport 8089 -j MASQUERADE" >> /etc/firewall.user
命令分别用于将进入的流量重定向到内部IP地址,并确保从内部地址返回的流量被正确处理。
关于MI50的风扇控制问题
之前很长一段时间都是win上使用,主要是win上解决了MI50风扇控制问题,使用Fan-Control软件+HWInfo解决。Ubuntu上没法解决主板ITE IT8655E驱动问题,所以一开机就会比较吵(MI50发热比较大,夏天时不敢怠慢,配置的转速比较高)。
后面自己倒腾了下,还是解决了,而且感觉ubuntu风扇控制比win上更好。Win上HWInfo上处理不好传感器配置会经常丢,而且必须要登录桌面使用,ubuntu上处理好后,就直接后台工作了,更适合服务器形式上电使用。
解决方案:使用非官方 IT87 DKMS 驱动来驱动ITE IT8655E
git clone https://github.com/frankcrawford/it87.git
cd it87
sudo make dkms
sudo cp -r . /usr/src/it87-1.0
sudo dkms add it87/1.0
sudo dkms install it87/1.0
sudo modprobe it87
echo "it87" | sudo tee /etc/modules-load.d/it87.conf
(可以找下其他ITE IT芯片完整的教程参考)
控制风扇转速软件使用CoolerControl,类似Fan-Control。

另外LM Studio在ubuntu下也可以使用,也做了尝试,但是好像32G显存只能用到一半,32B模型没法把模型都加载到显存,输出会很慢,不知道其他人有没有遇到过,或有解决方法。
-----------------------------------------
更新20251029:
驱动升级到了6.4.60404,可以正常工作,去AMD官网下载即可。
网上有人升级到Rocm7.0.2,号称输出有较大提升,有空试试。
浙公网安备 33010602011771号