AMD Instinct MI50 32G显卡ubuntu下使用LMStudio只能使用到一半显存的问题解决方法
之前使用LM Studio在ubuntu运行,32G显存只能用到一半。
调用qwen3 32B模型时,在rocm-smi中只能观察到49%的占用,其余的不足部分会载入到内存中,这样模型输出会很慢很慢。

B站中询问时,也有人遇到这个问题。
这边在Reddit上找到了答案,那就是rom的问题,原生自带的rom是不支持的,需要更新到其他版本。
直接使用techpowerup上别人上传的rom,连接如下:
https://www.techpowerup.com/vgabios/274474/274474.rom
刷写工具连接:
Strunzdesign/amdvbflash: AMD vBIOS flash utility for Linux
刷写前建议先备份原有的rom
sudo ./amdvbflash -s 0 mi5032g_0.rom
刷写新rom
sudo ./amdvbflash -f -p 0 274474.rom
刷写完成后,重启即可。
浙公网安备 33010602011771号