想local deploy最新ChatGPT-OSS 120B 要24 cores CPU

天才廚師煮大便

13 回覆
0 Like 6 Dislike
天才廚師煮大便 2025-08-11 20:53:33
截至現時為止x86 要Server U?

唔玩windows 就要Mac M4 ultra先玩到?

但係M4 ultra max ram得128GB, 人哋個checking係based on 256 gb ram 。

即係正常家用x86 要等zen 6 10950X3D (2026年尾/2027年頭?)

Mac M5 ultra 唔知有冇得玩256GB ram

定係串聯兩部M5/M4 Mac mini先玩到?
程式猿 2025-08-11 23:20:47
M3 ultra…
天才廚師煮大便 2025-08-11 23:55:17
M3 ultra 嘅Mac studio meet到requirement 都要成4皮幾
叔叔受不了 2025-08-12 00:10:39
咁你要LOCAL RUN 一個120B SIZE 大既LLM,係有一定要求架啦,仲想點,用4皮幾解決到係好平

你買一張H20 141G VRAM, 都講緊過10萬
96 2025-08-12 00:12:54
M3 ultra上到 512GB wor
南京大菩薩 2025-08-12 00:14:16
LOCAL GPT 你原本諗住電競電腦夠做?
慘過返緬甸 2025-08-12 00:16:29
20b就可能得嘅
古之惡來 2025-08-12 02:13:42
cloud要乜價位?
EKi 2025-08-12 02:33:49
20b 用 Macbook Pro 都夠
想同yy結業 2025-08-12 05:16:38
真係DLLM
天才廚師煮大便 2025-08-12 23:57:11
大棍巴 2025-08-14 20:56:26
應該都得,視乎佢software嗰邊有support未。
得5B activation,weight就得6X GB,真係幾啱佢set AI PC。
大棍巴 2025-08-14 20:57:10
應該都得,視乎佢software嗰邊有support未。
得5B activation,weight就得6X GB,真係幾啱佢set AI PC。
吹水台自選台熱 門最 新手機台時事台政事台World體育台娛樂台動漫台Apps台遊戲台影視台講故台健康台感情台家庭台潮流台美容台上班台財經台房屋台飲食台旅遊台學術台校園台汽車台音樂台創意台硬件台電器台攝影台玩具台寵物台軟件台活動台電訊台直播台站務台黑 洞