AMD Instinct MI50 32G显卡ubuntu下使用LMStudio只能使用到一半显存的问题解决方法
之前使用LM Studio在ubuntu运行,32G显存只能用到一半。
调用qwen3 32B模型时,在rocm-smi中只能观察到49%的占用,其余的不足部分会载入到内存中,这样模型输出会很慢很慢。

这个问题实际就是MI50显卡BIOS的问题,原卡的BIOS是不支持的,需要刷写其他版本才能解决。
直接使用techpowerup上别人上传的rom,连接如下:
https://www.techpowerup.com/vgabios/274474/274474.rom
刷写工具连接:
Strunzdesign/amdvbflash: AMD vBIOS flash utility for Linux
刷写前建议先备份原有的rom
sudo ./amdvbflash -s 0 mi5032g_0.rom
刷写新rom
sudo ./amdvbflash -f -p 0 274474.rom
刷写完成后,重启即可。
-----------------------------------------
总体在linux下相较于windows模型输出速度更好,同样LMStudio,在使用deepseek-r1:32b模型情况下,windows上只有16到左右的输出速度,linux下能到20以上,差别还是比较明显的。
应该还是驱动支持差别,计算卡主要目标还是linux环境。
浙公网安备 33010602011771号