Chat with RTX

六環彩大師

55 回覆

11 Like 0 Dislike

第 1 頁第 2 頁第 3 頁

2015 2024-02-25 05:15:01

你睇緊依個?
https://github.com/NVIDIA/trt-llm-rag-windows

Chat with RTX 好似係仲簡單過依舊

localhole.1069 2024-02-25 10:24:25

係啊

2015 2024-02-25 17:05:27

github 係玩另一樣野
係search dataset 再答問題

Chat with RTX 就 Local LLM 加個UI
自己開都好易

著龍袍唔似太子 2024-02-27 11:23:13

70B好似要64gb ram
🤔都已經workstation 級數

六環彩大師 2024-02-27 11:27:36

所以佢自帶兩個7b弱智model