用Chatgpt API 問嘢會唔會更好？

見到用chatgpt 3.5 api平過用plus好多，1000token 都係0.002 usd

想叫chatgpt 做個python script 儲存 api response，但係會唔會冇得好似web版平時咁連接話題去問問題定仲有什麼限制？

我自己寫左個backend server，建議你去playground玩下先，個token其實唔係咁好洗，用多幾次就會好多錢

playground好似都會consume token

Rate limit in term of # requests and tokens.
但大到如個人用，好難爆

API 點要佢扮演唔同角色？
同埋好似無乜記性

好似 Poe 果D咁係 call API

跟本你同佢講既野，佢好快就唔記得
如果小小事就 ok
但有D topic 你要教佢教到佢學識為止
跟本API / poe 就老年痴呆版既 chatGPT

扮角色: API 可入 system prompt.

And API 有記性, 方法: 所有 conversation history messages (within retention period) pass 入去 API.

poe <- 老人痴呆左的舊 messages, 係未係 --- Context cleared --- 之前? App UI 有寫 Context cleared.

終於 tokens有限，大家點將D野放入 context 都係有分別
Poe 用過一次覺得好 L 垃圾就無用