認真，大陸 AI 真係頂爛市 OpenAI 好難鬥

漢芯都要搵人捽甩個名
AI打正旗號係ChatGPT d人j得仲high

樓主真係太天真
AI真係等於chatbot?

仲有好多product係連落OpenAI
跟著香港係用唔到 唔提供服務比你
剩係iPhone香港版已經比人閹咗AI

科技野平係無野用 個個都用最top既
鬥得贏o1?
比你抄撚完再改良 贏到人哋第二代產品 你永遠都贏唔到人哋第三四代產品 永遠慢人一步
因為你個春袋比人揸撚著 無顯卡
所以啲人先講強國 香港無AI
屌人哋唔要既二手閪 仲沾沾自喜就係樓主呢種人

掉返轉睇error rate 由5%變1%
少4/5 error rate喎

開左ac入2蚊玩下佢個api
仲平過4o mini
如果拍得住4o既話係幾抵玩

點開acc

「一早講左中小企係無可能用咁raw嘅APi AI 一定係managed solutions 嘅方式」
有冇睇人講乜呀？

中國加入市場係好事
ai減價戰對消費者有利

Openai 無開源，可以點抄？

唔係。佢係有技術上嘅突破，用咗個新啲嘅architecture去砌個transformer 盡量揸壓哂所有GPU嘅運算出嚟先做到咁平，亦即係話畀業界聽其他大廠嘅訓練方式其實未到最optimal。Deepseek open source哂啲code同埋出咗份幾詳盡嘅technical report去講training details, 其他人理論上係可以repeat佢嘅results，所以我係偏向信佢嘅。

Poe只係個平台去call其他LLMs嘅API，完全唔係同一樣嘢嚟。

咪prove同樓主同一個prompt其他model會出番自己個名而deepseek會出chatGPT
你個result同樓主果個唔同 所以我都唔知邊個啱邊個錯
我嘅statement係based on樓主個result

openai咪又係scrap晒成個internet 變成幾多T既training token，憑實力scrap返黎既dataset做咩要open

成本低佢幾十倍好合理啦，active param得果32b，cpu要行既話求其砌部epyc genoa幾萬蚊768gb ram行q8都行到10t/s，一張h100一半既價錢都唔洗

我諗人哋用咗好耐

更何況，成個deepseek v3就open weight既，上huggingface就down到落黎，唔鐘意佢唔答六四，咪加個abliberated patch落去，到時就唔會唔答你野

踩鳩open source既連登仔根本弱智

佢成個weight係到，你自己可以down落黎試wor，連乜野出面api呢

https://huggingface.co/deepseek-ai/DeepSeek-V3/tree/main

cpu行32b q8都有10t/s?
最近仲諗住ebay買2~3張3090做host 睇嚟可以慳番筆錢

有呀，epyc genoa插爆12ch，bandwidth去到400gb/s，32b q8理論去到12.5t/s，加埋speculative decoding可能仲快

但唔知點解so far有Epyc機既人都未試呢個model，可能未有人convert做gguf

dense 30-33b直接行q4_k_m都得啦，睇perplexity都只係同f16有0.5%差距，一張24g vram卡都夠
但你想行70b model就兩張卡走唔到

ic thanks ching

同一個arch行bitnet (1.58bit)就仲好玩啦

姐係蔗渣成本有燒鵝食

你哋互含好核突

連登仔: 支那抄openai好嬲好嬲

鬼佬:

就好似問個大學生答錯呢條就話人廢咁，好似膚淺左d wor

200美金得咁短？