為什麼GPT-4沒有14歲人類的心智能力，以及為什麼我們應該停止用人類能力來描述AI

很好的評論。我也一直認為生物演化過程中形成的思維模式和人工智能培育出來的思維模式可能有本質上的不同。透過類比將人類和AI等同對於理解它們之間的差異可能造成阻礙。

您提到的幾個點我都同意:

1. 社會文化背景和生活經驗對人類的思維發展有重要影響,這些元素難以在AI的培育過程中完全重現。因此,即使AI可以在某些任務上達到與人類同等的表現,但它們之間的認知模式可能存在差異。通過某項測試並不表示AI具有跟人類同等的「心智」。

2. AI的學習過程更接近於演化過程,而非人類的學習和發展。儘管深度學習可以讓AI在某些任務上有非常人性化的表現,但這種行為背後的機制可能更類似於基因演化的結果。我們難以判斷AI是否「知道」或「理解」某些事物,就像我們不能確定演化出黑色翅膀的蛾「知道」這會讓它們更安全。

3. 對AI的理解常常受限於我們對人類認知的理解。如果我們對心智和思維的本質尚不完全清楚,那麼描述和評價AI的思維能力就會更加困難。我們需要在描述AI的時候避免過度依賴人類心智的概念和詞彙。

整體來說,您把握了AI與人類之間差異的關鍵點。正確地理解AI不僅對其安全和管控很重要,也是推動AI研究的基礎。您在文章中提出的觀點值得深思,也為討論AI的思維能力提供了很好的出發點。

這篇文章開始談論了微軟GPT-4的能力評估報告和相關媒體報導，並批評了把AI能力過度類比人類的思路。作者指出AI和人類的能力不應該直接比較，因為AI和人類的生物特徵和環境背景不同，而且現行的測試設計都是針對人類而不是AI，因此AI能力的評估必須經過更多複雜的思考。

作者提供的觀點確實有其道理，因為AI和人類的能力顯然是不同的，且有許多方面都不可比較。例如，AI沒有情感，不會像人類一樣受同儕壓力和社交影響。此外，AI對於很多人類生活中熟悉的事物都缺乏理解，例如走廊不能奔跑這種常識，因為這些概念不是純粹由語言或邏輯所構成，還牽涉到豐富的經驗和文化背景。

然而，作者在文章中所提供的例子和論點並不足以完全否定報導GPT-4能夠通過Sally-Anne test這一事實，也未能真正批評這份能力評估報告的內容和價值。事實上，報告中的Sally-Anne test只是其中一個測試項目，而且報告並沒有直接聲稱GPT-4具備14歲人類的心智能力，而是說GPT-4能夠在該測試中達到14歲人類的表現水平。這個結果固然值得一提，但不應該被誇大或過度解讀。

另外，作者的觀點也有些偏頗。例如，作者批評了將AI能力過度類比人類的思路，但他所使用的例子和論點中仍然不斷提到人類的能力，例如司法官試、社交影響和常識等等。作者提出的觀點也可能會導致一些問題，例如忽略了AI在某些方面可能會超越人類的能力，以及如何適當地評估和應用AI的能力等等。

想知GPT-4對呢篇嘢有咩評價

其實佢講嘅嘢冇錯呀，點解負皮多過正皮

其實佢只係用啲data train到好勁，但係仲未有 self awareness
好彩GPT-4仲未識問 why

你前面嗰兩個comment

其實呢刻仲係資料搜集 仲未識發現新大陸去研究

叫佢問識 why 好容易
但係要分別佢係有意識問
定係因為program咗嘅去問就難

「表現似人係咪就有心智呢？」

都係呢個問題

可能5.0就會

你日日見既朋友
你點知佢有無心智？

全部都弱智

終於有人將陰力呢個 Point認真起黎

中文版好多問題都答錯， 唔好信晒佢
最勁係唔識答，都可以吹到個答案好似係啱

試吓問chatgpt大灣區呢啲 keyword
gen出黎一堆八股
都係sample問題