程序设计实验室
微信公众号
一个技术探索与知识分享的平台~
2GB 显存还能跑大模型吗？我在 MX250 老笔记本上部署 Qwen3.5 2BB
七年前的Matebook14，MX250显存2GB，硬塞Qwen3.5 2B——这届玩家是真的敢。核心思路倒是比模型选择更值得学：先看清楚硬件预算，再决定能跑什么，而不是硬上7B然后等CPU掉帧到怀疑人生。1.81GiB直接顶满2GB显存，...
2026-09-15
725
LLM
本地部署大模型哪个性能好？在 8845HS (780M核显) 上的 LM Studio 基准测试
省流：目前用下来 `google/gemma-4-e4b` 是比较均衡的，在速度和性能方面表现都不错
2026-09-15
1146
LLM
你的显卡能跑多少算子？用 55 个检查项，给 PyTorch GPU 环境做一次冒烟测试
一个破脚本能测的只是输出是否还在cuda上，跟真正的gpu性能有个毛线关系。跑出来54/55的“通过率”就敢吹ROCm完美？麻烦先去搞清batch_norm为什么挂，再看看你那些操作到底调了哪个后端的kernel。
2026-05-20
897
AI-炼丹
ROCm on Windows 性能排查：RX 6650 XT 跑 PyTorch，为什么加速不明显？
自编译折腾半天，加速不到2倍？小模型+Windows+gfx1032非官方支持，能有这个速度算给面子了。别指望生产环境，当实验玩具玩吧。
2026-05-09
858
ROCm
用本地大模型驱动中文输入法，我做了一个实验性的项目
一个拿350MB小模型给输入法做语境排序的实验，思路倒是比那些堆参数的玩意儿清醒。不过老哥，先用着Web版就别急着吹原生输入法框架，等你能把打字延迟压到100ms以下再说。
2026-04-30
1468
LLM
打包ROCm环境的相关Wheel方便后续使用
呵，折腾半天才发现没法从site-packages直接提取Wheel，还得从官方源重新拖。几个G的ROCm全家桶，预编译好的二进制乐高，省得下次再对着源码干等几小时。
2026-01-18
634
ROCm
AMD显卡也能畅玩AI画图！ROCm+ComfyUI部署全指南
用StabilityMatrix在AMD显卡上部署ComfyUI，总算让ROCm派上点正经用场。可视化工作流比早期那堆破烂配置界面强多了，虽然启动时还得手动补依赖。看着GPU利用率拉满生成图像，这才算没白折腾。
2026-01-08
744
ROCm
告别N卡CUDA垄断，Windows+AMD显卡ROCm跑深度学习：手把手实现 MNIST 手写数字识别
在Windows+AMD的debuff下硬是编译了ROCm版PyTorch，拿MNIST这种“Hello World”来验货。用CNN而不是老掉牙的全连接网络，总算对得起显卡算力。跑完500个batch损失降到0.03，这种基础任务也就测个...
2026-01-07
1750
ROCm