摘要：
最近忙事，很少再在自己的机器上更新模型，最近出了Qwen3.8 27B的稠密模型，评价不错，遂试试。 ollama从0.30.0之后，后端都直接换到完整的llama.cpp，这是好事。 之前用ollama恨其性能拉垮，用llama.cpp性能好了，但是与openwebui匹配不好，体验不佳，现在完美 阅读全文
posted @ 2026-08-19 15:37
猿妙不可言
阅读(63)
评论(0)
推荐(0)
摘要：
具体操作步骤如下： 下载 ubuntu-base-20.04.5-base-arm64.tar 地址 https://cdimage.ubuntu.com/ubuntu-base/releases/focal/release/ 通过WinScp拷贝到android 的termux目录下（/data/ 阅读全文
posted @ 2026-07-24 10:47
猿妙不可言
阅读(38)
评论(0)
推荐(0)
摘要：
众所周知，Android上使用的bionic库，不同于其他linux分支，通过termux，可以编译一些c、c++程序到android shell中执行，先前都试过，完全没有问题。但是把.net 发布的AOT程序用到Android shell上执行，就一下来了难度（android shell，不是a 阅读全文
posted @ 2026-07-24 10:38
猿妙不可言
阅读(25)
评论(0)
推荐(0)
摘要：
之前介绍了手机上构建linux解决AOT的发布问题，实际上，这边还做过一些其他尝试，比如使用Qemu直接在windows上模拟一份arm64环境，做AOT发布和测试，以及一个实体的RK3568主板，基于Armbian来做发布和测试。 但是Qemu的跨架构模拟，性能折损太厉害了，AOT编译时长很难满意 阅读全文
posted @ 2026-07-24 10:08
猿妙不可言
阅读(29)
评论(0)
推荐(0)
摘要：
手上之前购入一个火龙888的三星fold3，主要是用来解决开发编译问题（.net aot 发布），以及顺带带小朋友玩模拟器。 不过太忙了，除了刚购入时候试着做了些环境搭建（linux deploy、termux），试了些开发环境，后续忙工作就吃灰了。 这个无头机（无屏），首先要解决SSRM提示问题， 阅读全文
posted @ 2026-07-24 09:33
猿妙不可言
阅读(14)
评论(0)
推荐(0)
摘要：
最近碰到几次推荐MewUI，本着试一试心态，在多个软硬件环境中做了下测试。 MewUI是一个轻量的跨平台UI框架，支持AOT，（相比Avlonia声称更加轻量，使用Markup形式，不支持XAML之类的描述和可视化UI，生产体积会更小）。 这个项目目前一直在更新，在使用的时候，有些比较低级的坑需要踩 阅读全文
posted @ 2026-05-18 21:03
猿妙不可言
阅读(338)
评论(0)
推荐(4)
摘要：
关于Qwen3.6 27B启用MTP加速生成的技术讨论近期越来越多，部分测试声称有一倍的加速效果，这边也基于手头的单卡MI50（32G）做了下测试验证。 受限启用MTP需要基于特定的llama.cpp版本才能工作，地址这里提供下， am17an/llama.cpp at mtp-clean 下载后， 阅读全文
posted @ 2026-05-15 17:34
猿妙不可言
阅读(2054)
评论(1)
推荐(1)
摘要：
最近使用llama.cpp时候(b9038)，发现Qwen3.6 35B下输出速度比Ollama快出一倍（llama.cpp 79 t/s VS ollama 44t/s）。 近期和部分网友交流时发现了llama.cpp实际已经支持了模型路由（多模型切换），通过 --models-dir 参数就能实 阅读全文
posted @ 2026-05-08 20:02
猿妙不可言
阅读(188)
评论(0)
推荐(0)
摘要：
一次偶然刷咸鱼时候，刷到了一个老东家的玩意，一个心电采集盒（DE15），忽然来了兴趣。 卖家不包好坏，后盖壳体有高温变形，也没有配件，估计就是一些事故后报废品。看了下价格也不贵，就拿下了，心想做个摆件，观摩观摩设计。（在另外一家公司做过一段时间心电研发，兴趣使然） 专业医疗设备不便宜，好像完整的采样 阅读全文
posted @ 2026-04-20 20:41
猿妙不可言
阅读(54)
评论(0)
推荐(0)
摘要：
看到ollama最新日志中rocm升级到7.2.1上了，遂考虑升级到最新试试。 首先去官网找到MI50 32G的驱动下载界面，下载对应系统的驱动 安装驱动 sudo dpkg -i amdgpu-install_7.2.1.70201-1_all.deb sudo amdgpu-install ./ 阅读全文
posted @ 2026-04-15 18:46
猿妙不可言
阅读(671)
评论(5)
推荐(0)
浙公网安备 33010602011771号