一粒M2 ultra AI能力等於8張rtx 4090 ,apple 屌打nvidia

係都係似apple 員工多d 喎

你由得佢啦

無可能

你地有無研究開先，唔係講緊平常打機剪片3d rendering 喎，知唔知LLM 最重要係咩先？

有高手

巴打個server 用左幾多張3090/4090？

總共幾錢？

無用過4090先至會唔知佢有幾快

咁你total 用左幾多張先?

https://gagadget.com/en/258869-the-apple-m2-ultra-gpu-is-on-par-with-the-geforce-rtx-4060-ti-in-geekbench-5-the-rtx-4090-graphics-card-is-150-more-power/

未run過咁大model唔知差幾多
但唔覺得會追得返
兩者算力上唔係一個級別
單單ram bandwidth係咪可以翻身
好質疑
仲8張, 吹大D

唔係unified ram 快左，係8張 4090如果無nvlink 會拖慢左

拖慢又唔係郁唔到
拖極咪又係system ram到pcie個bottle neck
有咩實際benchmark 講到m2u殺4090？

如果ram真係咁critical 一早間間embed 啦
又唔係咩極高科技野
幾十上百萬專業gpgpu邊會做唔到

LLM 呢兩年先興起，

最新grace hopper 未embed 左囉

4090 都唔係專業卡

人地本身core數萬萬聲要多ram要ram快理解
畢竟粒U再谷都唔易唔經濟
但m2u 先4060級既算力
係咪真係可以追返果150%
仲要8張？！！

都唔係講緊算力

我知，ai能力呀麻
算力唔影響ai能力既咩？
俾少少證據啦講左咁多。。。
挑住一張先啦好無

Can play Diablo 4?

diablo 4都玩到

a100 十萬 Mac 6萬

SD 裝到喎。不過有d sampling method 行唔到

要砍掉重練，真係等到2077

真係玩到 樓豬柒左

android 行唔到ios app一樣道理

rapidsai有cupy cuml cudf dask cuda做大數據

淨係得個非官方main的tf fork其實好雞肋，仲要arm docker行其他起好的model is a doubt

數據中心行Linux同cuda cluster,呢部野只係for 單機細project 上唔到scalability

未計gpufit omniverse呢d加速framework

Nvidia grace hopper
edge都有jetson系列

見到comment 講乜野automotive 行apple唔行Nvidia 真係得啖笑，Nvidia 已經有20%行工廠同自動駕駛嘅edge deployment

n記架構仲有federal learning 起好曬，apple係零

佢optimize 得唔好bottleneck咗係batch data IO

寫queued buffer stream/keras data generator 可以推盡個PCIE bandwidth

得30fps

係單位數-30，30要較low