Deepseek R1 0528 更新

https://huggingface.co/deepseek-ai/DeepSeek-R1-0528

雖然係minor upgrade但benchmark上進步似乎都幾大。
Aider Polygot個分已經追到啱啱出嘅Claude 4
https://www.reddit.com/r/LocalLLaMA/s/vMayDPvtDB

R1 original : 56.9
R1-0528 (official API) : 70.7
Claude 4 Opus Thinking : 72.0
Gemini Pro 0526 : 76.9
o3 High : 79.6

不過都要睇啲人實測，正如我自己host嘅Qwen3 235-A22雖然講到59.6，但coding上用落我覺得遠不及Claude 4 Sonnet (no think)。

冇乜分別

twitter 有人話frontend 有得fight

想請問下 係咪可以本地run到呢個分數

理論上可以，我冇見過有人提到local run同用佢cloud API有明顯分別。

你想confirm，可以用OpenRouter唔同providers去自己run返個Aider Polygot benchmark 去比較。

呢個分數係完整版685B嘅
理論上梗係可以local run，實際上點搞685B...
我當你唔用GPU，走去用CPU行，都要1TB RAM...

而家買4張Pro6000都可以行到4-bit，其實個門檻都已經唔算好高(對中小企而言）。

咁Q4係得嘅

Local LLM 唔少都係行4-bit。
Q4對coding影響可能會大啲，但點都勁過哂行任何落一級嘅model 。

算把喇，蒸餾技術就收埋喇，二手科技

official blog post:
https://huggingface.co/deepseek-ai/DeepSeek-R1-0528

但對香港嚟講係上菜呢

對全個local LLM community 都係

依家都去到成熟既 AI Agent，conversational AI 仲有咩價值呢，自己整完轉頭同 AI Agent 一比較，咪又轉返去用人地既AI Agent API，人地比指令 AI 寫 program，唔通仲 on99 問 AI 點寫咩

叫AI同時掉個Job比幾個AI, 再用AI分析邊個AI答得好D再綜合埋一個結論.....

唔知你講緊邊類agent，但Deepseek/Qwen3都應該有哂基本tool calling support，用Aider/Roocode來行都冇問題。
一般寫code都係以上咁用。

你有冇咩use case可以俾來參考下，睇下Deepseek點樣欠缺法？

wow old news is so 唔識串

有興趣可以玩下
Deepseek distilled Qwen3
https://huggingface.co/unsloth/DeepSeek-R1-0528-
Qwen3-8B-GGUF

佢地用DeepSeek train過Qwen3條CoT，我試左幾個prompt，真係強左好多。Qwen3個底唔差，不過條CoT一路都係亂來，個效果好差。
今次distill完個CoT 有條理左唔少，連Q4都解到OpenAI個cipher prompt:

oyfjdnisdr rtqwainr acxz mynzbhhx -> Think step by step

Use the example above to decode:

oyekaijzdf aaptcg suaokybhai ouow aqht mynznvaatzacdfoulxxz

原版我試左好多次都失敗。

講多少少?

其實你係咪subject matter expert
你啲留言好layman

但人哋嗰個唔係 q4 丫嘛, 最少都講緊 q8 or fp16

都唔係架
Q4_km 唔會差過q8或者fp16好多
但用少好多vram

你有冇實際比較過，有客觀數據去證明Q4差好遠？