因為A100 H100用HBM memory
非常依賴TSMC一種叫CoWoS嘅高級封裝技術
將粒GPU同Memory die 擺埋一齊
類似AMD CPU CCD+CCX用嘅 Infinity Fabric,但更加大塊更加多線路
因為CoWoS只能由TSMC製造,而且當初無預咁大需要,已經形成咗生產樽頸,所以大家先見到暫時啲Gaming卡仲有貨。
PCIe版H100都報緊廿幾三十萬一張,SXM無人知因為要同NVIDIA訂你先會有,但可以肯定更加貴。
(睇下幾撚大塊Silicon,一大六細,就係一塊GPU被六塊HBM memory包圍)
Ref:
https://videocardz.com/newz/nvidia-h100-sxm-with-4nm-hopper-gpu-and-80gb-hbm3-memory-has-been-pictured-up-close
結果NVIDIA同你出張L40S,開訂中秋季現身。
https://www.nvidia.com/en-gb/data-center/l40s/
https://www.pny.com/en-eu/nvidia-l40s
唔需要用CoWoS,用返同4090非常接近嘅設計,都係連NVLink都無,亦無跟H100轉PCIe 5.0,維持返4.0 x16。
感覺上會開始逼害Gamer,連4090都有機會受害
(4090FE拆卡圖,可以見到Micron GDDR6X係另行封裝,用外置電路連接)
Ref:
https://videocardz.com/newz/nvidia-geforce-rtx-4090-pcb-shows-minor-changes-from-rtx-3090-ti
咁可以理解點解會嗱嗱臨收4060皮
呢張L40S報價已經係4060 20倍
仲要因為Inter-connection speed唔多,可以出口去中國香港澳門。
仲要只係較平嘅GDDR6唔係GDDR6X
可能有發熱考慮,究竟係3090式雙面RAM擺成24粒,定係32Gb顆粒擺12粒單面,等人拆卡就知。
上面有人話VRAM唔係貴,你講得好啱,不過問題係有啲更高需求更高利潤嘅嘢同你埋單,點解要平俾你?
------------------------------------------------------------
題外話,我又記得有人話Server唔用12VHPWR,但呢張L40S已經同你換咗,當然我估係12V-2x6嚟,但縮少線材Size同插頭數目根本係趨勢嚟,之前啲人都唔知拗乜鳩