其實使唔使呢到開子系統linux版先得？(開左)
Ollama 問題+ open webUI問題
ニジュー
27 回覆
0 Like
5 Dislike
裝個llama3.3模型超過成個鐘？係咪做漏d乜？
其實使唔使呢到開子系統linux版先得？(開左)
其實使唔使呢到開子系統linux版先得？(開左)
睇你down幾大既model
我down ollama 最細model 7b parameter 已經3GB
我down ollama 最細model 7b parameter 已經3GB
500: Ollama: 500, message='Internal Server Error', url='http://host.docker.internal:11434/api/chat'
點攪
點攪
用人哋api算啦 搞咁多嘢好麻煩
我淨係覺得成個使用氣氛仲未成熟，不斷改緊野、一個ver到下個ver（open webUI）全部唔同，玩死人！
(我認我廢）
(我認我廢）llm世界所有野都係
你今日學完，d知識下個月就out左
所以唔洗追得咁貼
你今日學完，d知識下個月就out左
所以唔洗追得咁貼
因為我覺得如果要用嘅話最好就用啲好啲嘅model
你自己host嘅話用返啲家用嘅設備你一定個model差好多
你自己host嘅話用返啲家用嘅設備你一定個model差好多
其實我係一小用途、想用得更好而出發去攪咁多野、去搵教學.....on9地牽連被誤導裝好多無謂野無謂動作...(華文圈十個有九個都係無料鳩吹教人)
點解要睇中文？
三手飯都不如的廢料
三手飯都不如的廢料
普通玩下用LM studio 咪算
咩都幫你set好曬
咩都幫你set好曬
Local用chatbox算
最通用就wrap成 openAI API format
都應該唔會點改
都應該唔會點改
你他媽的腦袋有病呀！好似你係乜學位出世啦？裝個llama3.3模型超過成個鐘，係咪做漏d乜？根本係因為你睇錯度唔夠或者係硬件太差啦！你知唔知，你開左子系統linux版，係咪想成為IT狗呀？要學好多年嘅程式語言先得？
你點解要問我呢？你就去睇下度唔夠喇！或者係你硬件太差，就改晒呀！不要再來問我無效嘅問題啦！
你點解要問我呢？你就去睇下度唔夠喇！或者係你硬件太差，就改晒呀！不要再來問我無效嘅問題啦！
用緊4070係咪唔得？定係要裝llama 3.2？
同埋依家咁咩指令清乾淨個3.3???
同埋依家咁咩指令清乾淨個3.3???
其實你係咪弱智
你自己都見到個model 42gb，點解你覺得會擺得落4070，vram差成倍有多
ollama又冇cpu/gpu hybrid，又唔可以offload一部分model落ram
你自己都見到個model 42gb，點解你覺得會擺得落4070，vram差成倍有多
ollama又冇cpu/gpu hybrid，又唔可以offload一部分model落ram
多謝指教
and...
del係咪成個ollama Folder bye bye就得？(安裝未完成情況下）
另外係咪3.2無問題？
你打ollama list睇吓有冇3.3 model先
rm model名去remove
4070 得16gb vram，行13b model應該差唔多到頂
試下用3.1 8b model先，摸熟哂點set open webUI再試吓大啲的model
rm model名去remove
4070 得16gb vram，行13b model應該差唔多到頂
試下用3.1 8b model先，摸熟哂點set open webUI再試吓大啲的model
llama3.2 3b 都係唔得
ollama可以offload model 落RAM (GPU ram唔夠就用system ram)
我用4070 + 32GB RAM 可以用 32b model
我用4070 + 32GB RAM 可以用 32b model
哇！好複雜...
其實我只係想set入去SubtitleEdit幫我做自動翻譯果部份......岩岩成功係裡面用到係3.2了...
想問，同3.3比，翻譯方面有無需要上？(有既話就參考你方法再去研究)
其實我只係想set入去SubtitleEdit幫我做自動翻譯果部份......岩岩成功係裡面用到係3.2了...
想問，同3.3比，翻譯方面有無需要上？(有既話就參考你方法再去研究)
不如你都係俾錢連OpenRouter 算喇
都已經好簡單㗎喇
連Model 都唔洗自己搵
都已經好簡單㗎喇
連Model 都唔洗自己搵
llama 3.2超廢不宜翻譯，9唔搭8到外太空，日轉中亂碼都夠膽死........馬上del
其實你知唔知自己做緊咩?
你真係覺得一個3B既Model 會做到你想做既野?
你真係覺得一個3B既Model 會做到你想做既野?