Claude 重磅更新：一次記憶 10 萬 token！

https://www.techbang.com/posts/106200-chatgpt-claude-ai

點睇

要知道，之前市面上幾乎所有AI聊天機器一次都只能讀取有限數量的文本，理解長資料裡的上下文關係非常災難。

而我們人類自己去處理大篇幅的文本又太慢了，比如光是要讀完10萬token的資料，就需要大約5個多小時，更別提還要花更多的時間去理解去消化才能進行總結。

現在，Claude直接一次搞定。

這波，簡直是GPT-4難以置信，因為，剛剛GPT-4才做到3.2萬token。

所以，一次性比GPT-4多出3倍的處理量，Claude效果提升究竟如何？

據Anthropic官方介紹，升級後的Claude-100k版本，對話和任務處理能力雙雙得到極大提升。

一方面，是「一次性可處理文本量」的增加，直接拓寬了Claude的可從事職務類型。

之前，大模型最多用來處理個幾十頁的文件。

現在，Claude已經能快速閱讀公司財報年報、技術開發文件、辨識法律文件中的風險、閱讀上百頁研究論文、乃至於處理整個程式碼庫中的資料。

最關鍵的是，它不僅能通讀全文總結其中的要點，還能進一步完成具體任務，如寫程式碼、整理表格等。

例如，快速理解幾百頁的開發文件，並根據文件開發應用程式demo。

幾乎沒用多少時間，Claude就快速給出了一個基於LangChain開發的應用程式demo：



又例如，丟給它一個漫長但又不得不聽的5小時知識型Podcast：



它不僅能將重點轉成文字提取出來，還能快速整理表格，對觀點進行分析：



難度增大一點，30頁的研究論文也能很好地處理，甚至能準確指定它整理某一章節的某一段落：



除此之外，還能幫導演處理劇本選址一類的問題。如給出《沙丘》的電影腳本，問Claude最適合拍攝的地點，它很快就能給出幾個對應的參考位址：

最後，官方還給出了一個《大亨小傳》案例，雖然沒有demo演示。

他們將這篇餵給Claude後，替換了其中一個角色Mr. Carraway，把他的角色變成「Anthropic裡的一位工程師」，再交給Claude閱讀，讓它找找看有什麼不同。

幾乎只用22秒鐘，Claude就讀完這本書，並發現了Mr. Carraway的「不同身份」。

另一方面則是「記憶力」的增加，帶來了對話題掌控度的提升、以及聊天能力的提升。

此前大模型經常會出現「聊著聊著忘了話題」的情況，對話視窗總字數超過幾千字後，開始胡言亂語。

舉個例子，如果你用大量提示詞設置了一個ChatGPT版貓娘，那麼它開始聊天後，可能幾個小時就忘記了自己和你說過的話，開始表現出一些「出軌」的跡象。

但現在，擁有一次10萬+個token記憶力的Claude，則不太可能出現這種情況，反而能牢牢記住和你聊過的話題，連續交談上好幾天。

那麼，目前我們能透過什麼方式用上最新版Claude呢？

這個Claude-100k的版本：

- 可以用API的方式體驗，不過不是免費的；
- 網頁版也行，但需要你有試用資格，沒有就去申請，等一等；
- Slack端還不行，只是個體驗版。
- 課金 join POE，但一個月得 100 次提問次數

本身claude chatgpt 4 可唔可以分析或生成 pdf/圖/片？
因為一直用免費版poe

淨係知 poe 就算俾咗錢都無呢啲嘢玩