QwQ 32B真係唔錯

Self host用一張3090都夠，好適合拎來fine tune。


好似仲有得再高分
https://www.reddit.com/r/LocalLLaMA/s/QQGb8VfPuq

呢張圖有冇link？好似幾有用。

Livebench.ai

不過QwQ個 result暫時take down左，因為同Alibaba自己測有出入，來緊會再出返。

唔該巴打 Global average 即係 general knowledge?

General knowledge I mean 好似平時日常google搵資料咁

應該唔係，佢個average應該只係佢咁多項能力嘅(weighted) average。

細model(少 general knowledge)都可以有高global average。

自己一張3090或者4090 RUN 只可以run到q4,
仲要個vram唔夠多得24GB, 搞到context length唔夠多, 文字類既話還好, 一到打code果D, 一開始餵既prompt都可以爆context length, 最後用途好有限

但如果用Q3就太影響個output quality

Livebench update左，好L高分
不過真係唔好盡信Benchmark

Gemma 3 都好唔錯

免費用嚟打code都幾好用
免費唔計ide trae 可以任call 3.7 sonnet外
佢個通義靈碼應該係vs code 算比較值得裝既extension, 又有得用qwq 32b

而家都為用qwen chat 個max 算