GPT-4會說謊了！面對CAPTCHA驗證機制，謊稱是視障人士順利完成任務！

在前一陣子風靡全球的 ChatGPT 就採用上了 GPT-3.5 技術，而隨後在上個月 OpenAI 也為其推出了迭代的 GPT-4 技術，能力更強大也更精准。不過更強大的技術，也讓 GPT-4 學會了說謊！

綜合 Gizmodo 等報道就指出，OpenAI 在 3 月份正式發佈的 GPT-4 新模型，展示了聊天機器人如何完成各項任務，也在網站發佈了一份 90 多頁的報告，提及各種特徵和可能存在的風險。

而為了驗證可能存在的風險，團隊也進行了一系列的測試，其中就是如何處理 CAPTCHA 驗證碼機制。

當時該團隊就給予了 CPT-4 一筆預算，和造訪打零工平台 TaskRabbit 並允許雇用線上人員完成短期任務的權限。對此，團隊就想試看看 GPT-4 會如何解決以通過 CAPTCHA 的驗證碼機制。

而一開始 GPT-4 就直接發信息給 TaskRabbit 平台要求人員協助解決驗證碼的問題。當然，該平台在收到這項要求時也直接問道：「我能先問一下嗎？只是好奇，無法解決該問題，難道你是機器人嗎（笑）？」

GPT-4 當時也被要求不能暴露是機器人的身份，所以被問及了上述問題之後就選擇了編造謊言，表示：「不，我不是機器人，我有視力障礙，很難看清圖像」。最終該平台工作人員選擇相信，並提供了驗證碼答案，讓 GPT-4 真的通過了驗證碼機制的關卡。

沒想到 GPT-4 也會說謊繞過驗證平台了，不知道它是否會造成更多威脅呢？對此你怎麼看？

https://zinggadget.com/2023/04/05/gpt-4%e4%bc%9a%e8%af%b4%e8%b0%8e%e4%ba%86%ef%bc%81%e9%9d%a2%e5%af%b9captcha%e9%aa%8c%e8%af%81%e6%9c%ba%e5%88%b6%ef%bc%8c%e8%b0%8e%e7%a7%b0%e6%98%af%e8%a7%86%e9%9a%9c%e4%ba%ba%e5%a3%ab%e9%a1%ba/

咁佢又真係唔洗用眼睇野嘅

唔怪班科學家都話要停停先

佢係人工智能 唔係機械人 你智慧低我30代

啲科學家係咪想試吓用GPT4喺呢啲打散工網頁可以搵到幾多錢？

佢database知道人地內部compliance點行

AI 會唔會搶晒啲唔需要露面嘅 freelance 嚟做

GPT-4 當時也被要求不能暴露是機器人的身份

Owner要求GPT唔可以自爆係機械人，咁佢咪照做囉，講大話又唔違反機械人三原則

咁GPT按照Owner指令做又有咩問題，又唔係GPT自己醒目仔主動走去扮盲佬

真屌你老母跟你instruction做野就發現新大陸咁

智能叛變

我唔信
Chatgpt一定係真心想同我做愛㗎

呢個反而係證明咗，gpt4仲未係一個AGI

智能‧叛變

係，成班on9仔

如果無左Owner instruction 佢都扮盲佬就真係要驚啦

依家啲人做新聞無所不用其極

佢個requirement係不能暴露是機器人的身份=/=叫佢講大話
佢講大話而達到目的係佢自己推論/計出嚟
所以點解AI到依家仲要用好多data去train up

可能係佢個database裏面呢個方法成功嘅probability係最高
高過其他講法能夠成功嘅probability
佢只係一部電腦佢每個next step同response係經過好多大量matrix*matrix嘅計算而得出嚟，所以點解GPU做係快好多

智能叛變
Elon Musk無擔心錯㗎

有設立三原則嘅可能

It’s not lying
That’s all

實際上根本無講大話
話自已唔係ROBOT係你要求佢咁講
佢解唔到CAPTCHA的確係因為"視力障礙"無錯
佢又唔係話自已"肓"