我電腦32Gb Ram 跑到30B qwen 既deepseek

雖然慢但係跑得郁

好奇，d人有graphic card 都係跑8B model都係話慢

其實係咪唔夠VRAM就會用左ram
拖慢



（window 跑wls2 要改少少config先用到更多ram)

CPU: 16 Core (Ryzen 5900HX)
GPU: N/A
RAM: 32GB

Model:
Deepseek r1 Qwen

Token per second
30B: 2
14B: 4.5
7B: 9
1.5B: 37

用黎比大家參考MINI PC 既速度

30b用q幾

pi5 1.5B 9 token/s