一粒M2 ultra AI能力等於8張rtx 4090 ,apple 屌打nvidia

170 回覆
18 Like 200 Dislike
2023-07-03 17:06:43
係都係似apple 員工多d 喎
2023-07-03 17:19:44
你由得佢啦
2023-07-03 17:52:35
無可能
2023-07-03 18:14:22
你地有無研究開先，唔係講緊平常打機剪片3d rendering 喎，知唔知LLM 最重要係咩先？
2023-07-03 19:51:06
有高手

巴打個server 用左幾多張3090/4090？

總共幾錢？
2023-07-03 19:57:52
無用過4090先至會唔知佢有幾快
2023-07-03 20:16:51
咁你total 用左幾多張先?
2023-07-03 20:29:17
https://gagadget.com/en/258869-the-apple-m2-ultra-gpu-is-on-par-with-the-geforce-rtx-4060-ti-in-geekbench-5-the-rtx-4090-graphics-card-is-150-more-power/

未run過咁大model唔知差幾多
但唔覺得會追得返
兩者算力上唔係一個級別
單單ram bandwidth係咪可以翻身
好質疑
仲8張, 吹大D
2023-07-03 22:21:33
唔係unified ram 快左，係8張 4090如果無nvlink 會拖慢左
2023-07-03 22:33:45
拖慢又唔係郁唔到
拖極咪又係system ram到pcie個bottle neck
有咩實際benchmark 講到m2u殺4090？

如果ram真係咁critical 一早間間embed 啦
又唔係咩極高科技野
幾十上百萬專業gpgpu邊會做唔到
2023-07-03 22:52:35
LLM 呢兩年先興起，

最新grace hopper 未embed 左囉

4090 都唔係專業卡
2023-07-03 23:00:21
人地本身core數萬萬聲要多ram要ram快理解
畢竟粒U再谷都唔易唔經濟
但m2u 先4060級既算力
係咪真係可以追返果150%
仲要8張？！！
2023-07-04 02:07:52
都唔係講緊算力
2023-07-04 02:11:35
我知，ai能力呀麻
算力唔影響ai能力既咩？
俾少少證據啦講左咁多。。。
挑住一張先啦好無
2023-07-04 02:27:26
Can play Diablo 4?
2023-07-04 03:29:08
diablo 4都玩到
2023-07-04 03:29:59
a100 十萬 Mac 6萬
2023-07-04 04:07:55
SD 裝到喎。不過有d sampling method 行唔到
2023-07-04 04:29:44
要砍掉重練，真係等到2077
2023-07-04 05:16:06
真係玩到 樓豬柒左
2023-07-04 05:32:35
android 行唔到ios app一樣道理

rapidsai有cupy cuml cudf dask cuda做大數據

淨係得個非官方main的tf fork其實好雞肋，仲要arm docker行其他起好的model is a doubt

數據中心行Linux同cuda cluster,呢部野只係for 單機細project 上唔到scalability

未計gpufit omniverse呢d加速framework
2023-07-04 05:35:52
Nvidia grace hopper
edge都有jetson系列

見到comment 講乜野automotive 行apple唔行Nvidia 真係得啖笑，Nvidia 已經有20%行工廠同自動駕駛嘅edge deployment

n記架構仲有federal learning 起好曬，apple係零
2023-07-04 05:41:00
佢optimize 得唔好bottleneck咗係batch data IO

寫queued buffer stream/keras data generator 可以推盡個PCIE bandwidth
2023-07-04 06:55:24
得30fps
2023-07-04 06:59:39
係單位數-30，30要較low
吹水台自選台熱　門最　新手機台時事台政事台World體育台娛樂台動漫台Apps台遊戲台影視台講故台健康台感情台家庭台潮流台美容台上班台財經台房屋台飲食台旅遊台學術台校園台汽車台音樂台創意台硬件台電器台攝影台玩具台寵物台軟件台活動台電訊台直播台站務台黑　洞