有7B 13B同70B
其實仲有34B 但facebook話唔夠時間出
個license change都幾正 每月700milliom用戶以下既use case唔洗通知facebook
而家等埋34B出 我就可以係屋企自己整chatbot了
Facebook出左llama 2 除大公司外可免費商用
極北鷲
84 回覆
15 Like
4 Dislike
https://ai.meta.com/llama/
有7B 13B同70B
其實仲有34B 但facebook話唔夠時間出
個license change都幾正 每月700milliom用戶以下既use case唔洗通知facebook
而家等埋34B出 我就可以係屋企自己整chatbot了
有7B 13B同70B
其實仲有34B 但facebook話唔夠時間出
個license change都幾正 每月700milliom用戶以下既use case唔洗通知facebook
而家等埋34B出 我就可以係屋企自己整chatbot了
Back up Bard個個llama?頭號競爭對手用同一個技術？
唔太關bard事 llama可以自己download落黎玩
bard就我理解冇得咁玩
（雖然facebook咁出都係為左打擊競爭對手
bard就我理解冇得咁玩
（雖然facebook咁出都係為左打擊競爭對手
facebook唔夠人咁好 商業化唔到
咁咪放出嚟做福世人囉
咁咪放出嚟做福世人囉
呢個唔知啦 但facebook呢方面真係難得做左好事
係靠佢個llama先有self host chatbot既風潮出現
個時搞到google內部員工同上頭提議話要搞埋open source 否則唔夠抽
https://www.semianalysis.com/p/google-we-have-no-moat-and-neither
係靠佢個llama先有self host chatbot既風潮出現
個時搞到google內部員工同上頭提議話要搞埋open source 否則唔夠抽
https://www.semianalysis.com/p/google-we-have-no-moat-and-neither
想問下幾多B，同model size, answer quality and performance 有關？
愈高B model size愈大 answer quality愈高 inference speed愈慢
Thanks 
Lm
https://www.reddit.com/r/LocalLLaMA
外國討論self host LLM既地方 有興趣可以睇下
外國討論self host LLM既地方 有興趣可以睇下
想用70b model最少要48gb+gpu
一係用cpu+ram run
一係用cpu+ram run
是 所以等緊34B版出
一張3090 or 4090搞得掂
或者係4060Ti 16GB + CPU行 （我諗住咁玩）
一張3090 or 4090搞得掂
或者係4060Ti 16GB + CPU行 （我諗住咁玩）
我之前用過steamship既chatbot，自己幫佢改名，綁實係TG度傾計，好似WhatsApp上面個d朋友咁，係咪即係你地講既self host bot啊？
睇左下 唔算係
佢好似係rely on openai既api 透過api用佢proprietar既model
llama係講緊連個model都係自己控制 你可以download個pretrain version落黎finetune到你想要既樣（e.g.coding特化，storytelling特化）
佢好似係rely on openai既api 透過api用佢proprietar既model
llama係講緊連個model都係自己控制 你可以download個pretrain version落黎finetune到你想要既樣（e.g.coding特化，storytelling特化）
甘同Character.ai呢？
一樣 我理解係
個網到你可以選擇既性格／角色係有限
但如果你有model既話 理論上可以將佢finetune成任何你想要既角色
個網到你可以選擇既性格／角色係有限
但如果你有model既話 理論上可以將佢finetune成任何你想要既角色
上cloud 比幾蚊開部機玩幾個鐘咪算
微軟唔係已經掌握到PaLM2嗎？點解仲要用LLAMA
因為而家得LLAMA係可以自己免費download黎玩唔洗vpn 冇rate limit 亦唔會對產出內容有任何限制
唔洗vpn 冇rate limit 亦唔會對產出內容有任何限制其實本身都諗住砌server
唔差在玩埋ai
唔差在玩埋ai唔會對產出內容有任何限制？係咪即係Llama佢唔會好似GPT Bing Bard佢地咁樣亂up野，無hallucination?
得張1070，應該玩唔到大model我有睇，cpu都係得3080x試吓整簡單model驗證技術就算