摘要： MewUI最近碰到几次推荐，本身是一个轻量的跨平台UI框架，支持AOT，且相比Avlonia声称更加轻量（使用Markup形式，不支持XAML之类的描述和可视化UI，生产体积会更小）。 本着试一试心态，顺带对比下Avalonia（之前也在pc、嵌入式板卡上都运行过）。 这个项目目前一直在更新，在使用 阅读全文

摘要： 关于Qwen3.6 27B启用MTP加速生成的技术讨论近期越来越多，部分测试声称有一倍的加速效果，这边也基于手头的单卡MI50（32G）做了下测试验证。 受限启用MTP需要基于特定的llama.cpp版本才能工作，地址这里提供下， am17an/llama.cpp at mtp-clean 下载后， 阅读全文

摘要： 最近使用llama.cpp时候(b9038)，发现Qwen3.6 35B下输出速度比Ollama快出一倍（llama.cpp 79 t/s VS ollama 44t/s）。 近期和部分网友交流时发现了llama.cpp实际已经支持了模型路由（多模型切换），通过 --models-dir 参数就能实 阅读全文

摘要： 一次偶然刷咸鱼时候，刷到了一个老东家的玩意，一个心电采集盒（DE15），忽然来了兴趣。 卖家不包好坏，后盖壳体有高温变形，也没有配件，估计就是一些事故后报废品。看了下价格也不贵，就拿下了，心想做个摆件，观摩观摩设计。（在另外一家公司做过一段时间心电研发，兴趣使然） 专业医疗设备不便宜，好像完整的采样 阅读全文

摘要： 看到ollama最新日志中rocm升级到7.2.1上了，遂考虑升级到最新试试。 首先去官网找到MI50 32G的驱动下载界面，下载对应系统的驱动 安装驱动 sudo dpkg -i amdgpu-install_7.2.1.70201-1_all.deb sudo amdgpu-install ./ 阅读全文

摘要： 最近google更新了新的开源模型，这边更新Ollama后，试着拉取测试了下，26B的模型运行很顺利，没有问题。 但是运行31B模型时，启动总是报错，开启后台日志后（journalctl -u ollama -f），找到如下提示： 4月 08 19:34:33 zt ollama[938812]: 阅读全文

摘要： 之前在上一期主要是通过屏蔽对GGML_OP_SOLVE_TRI的支持来解决MI50运行Qwen3.5下SOLVE_TRI报错，今天GitHub上发现更好的解决方法，来自llama.cpp的相关提交。 作者直接修改了solve_tri.cu的实现，将MAX_K_FAST也支持到64，简单来说就是让下面 阅读全文

摘要： 近期qwen又新出了Qwen3.5模型，包括27B、35B的模型。这边升级ollama做了下测试，会出现如下报错： （查看方法 1.终端执行命令：journalctl -u ollama -f 2.进行一次Qwen3.5 27B或35B模型启动，查看最新的日志） 为了确定问题，这边在LM studi 阅读全文

摘要： 最近更新了下llama.cpp的版本，使用了b7710，也尝试在rocm7.1.1下编译，编译也能通过（参考之前的文章） 但是之前启动VL模型时一直没有图片选项，发现是没有加载多模态部分guff，同时尝试时也遇到一些坑。 这边一直在linux下使用LM studio，除了模型尝鲜测试外（比ollam 阅读全文

摘要： 今天去amd官网闲逛，发现MI50的驱动居然已经更新到了7.1.1，心情激动了下，立马下载安装的试试，结果是一波三折。 下载文件： amdgpu-install_7.1.1.70101-1_all.deb 安装 sudo apt install ./amdgpu-install_7.1.1.7010 阅读全文