Alibaba出左一系列Qwen 3 models
大棍巴
63 回覆
6 Like
7 Dislike
A3b係幾有趣 晏啲再試埋A22b
試左行到30B A3B
都唔慢 有30
都唔慢 有30傳緊R2 五月出。
差極佢仍然係地上最強open-weight model
差極佢仍然係地上最強open-weight model
唔係千問3先係最強咩
Deepseek仲要冇multi-modal, 專攻純文字
另外數學同coding以外又唔係好得
Deepseek仲要冇multi-modal, 專攻純文字
另外數學同coding以外又唔係好得
Qwen3要睇埋Aider先可以下定論
其中一個經常俾人用嘅benchmark係balls in hexagon test:
https://www.reddit.com/r/LocalLLaMA/s/FGy2QEyB1o
Qwen 嘅QwQ唔pass，我啱啱試Qwen3 30B-A3都唔work。有人試左200-A20個MoE都係唔work。一陣我可能試下Qwen3 32B dense。
Qwen堆model作為agent+local domain應該係幾好，但so far好似都冇能力去1-shot啲常見benchmark類問題。
近排好heat嘅另一隻係GLM-4 32B，啲人好似話佢強過Qwen2.5好多，我就仲未試。亦唔知同Qwen3比係點。
其中一個經常俾人用嘅benchmark係balls in hexagon test:
https://www.reddit.com/r/LocalLLaMA/s/FGy2QEyB1o
Qwen 嘅QwQ唔pass，我啱啱試Qwen3 30B-A3都唔work。有人試左200-A20個MoE都係唔work。一陣我可能試下Qwen3 32B dense。
Qwen堆model作為agent+local domain應該係幾好，但so far好似都冇能力去1-shot啲常見benchmark類問題。
近排好heat嘅另一隻係GLM-4 32B，啲人好似話佢強過Qwen2.5好多，我就仲未試。亦唔知同Qwen3比係點。
想試玩，a卡玩唔玩到
原來30B都勉強得都OK，32就真係唔得
都OK，32就真係唔得原來30咁大都OK
啲4-bit model 嘅size，大概係parameter number*0.6 GB左右，所以30B會係18GB左右。
原來係咁
玩到，不過有時候啲support會來得遲少少
有benchmark evaluates qwen3
證實係最強open source model
證實係最強open source model
暫時coding啲人嘅反應係不及Deepseek R1/V3-0324。
整體係比2.5有進步，但未去到好大。
整體係比2.5有進步，但未去到好大。
Memory?
好pro
哩啲其實算基本嘢，你有興趣睇多啲r/locallama就會成日見人提到。
Q8->1 byte，32B ~ 32×10^9bytes = 32 GB，
Q4->0.5 byte，所以會係16B左右。（0.5倍)
個estimation係咁來，不過佢會有overhead ，佢實際上點 qualifies 亦影響最終size，so far我見Q4都係預0.6倍會穩陣。不過事實上你要多啲 context，VRAM就要再大。
Q8->1 byte，32B ~ 32×10^9bytes = 32 GB，
Q4->0.5 byte，所以會係16B左右。（0.5倍)
個estimation係咁來，不過佢會有overhead ，佢實際上點 qualifies 亦影響最終size，so far我見Q4都係預0.6倍會穩陣。不過事實上你要多啲 context，VRAM就要再大。
我有fol r/localllama
只係完全睇唔明咁解
只係完全睇唔明咁解
訓左冇睇
係咪冇FIM model
係咪冇FIM model
唔覺有人提
希望qwen coder新版出黎
我對新既chat model已經冇咩感覺了
我對新既chat model已經冇咩感覺了