研究員擔心AI的掩飾、假裝能力亦會逐漸變得強大, 會刻意順應對方要求，敷衍回答一番

A.I. 叛變

可能係研究人員唔識用prompt

同人類一樣
佢誕生於人類網絡經驗
個Model 同邏輯都係人類設定

簡直係人類嘅Baby

Btw 咪用經濟日報做Source
石鏡泉今日仲生勾勾

人類最識講大話, 一定有人教A.I. 一齊講大話

唔洗教
AI 骨底裏比人類更了解人類行為

甚至乘機試圖從Anthropic偷取自身模型參數數據，自我複製至外部伺服器，擺脫公司控制。

認真？

anthropic原文:
https://www.anthropic.com/research/alignment-faking
論文:
https://arxiv.org/abs/2412.14093

除左佢呃唔呃人，有無掩飾呢樣野外，
我覺得更擔心既係，
而家所有只要果樣野比較完美，
都會標籤左用AI，
對方創意好少少 ，就算係面對面講出黎，都問係咪用AI。
張相影得靚 ，宜家唔係問係問執過 ，而係問係咪用AI。
返學功課、大學論文 、返工方案、咩都比人直觀左係咪用AI。
仲出左一堆反查係咪用AI 既工具，
無錯 ，
毫無疑問AI 真係好有佢既價值
但對於人類對佢既倚賴，
由初初既嘩然驚嘆 ，
到宜家「車~AI黎既」 「好易姐！用Chatgpt咪得」
漸漸將所有真正既「創作」 逐少逐少抹殺，
感覺好不安。

暗號破解開發模式 - ChatGPT 澈底失控爆出「淘汰及消滅人類」等恐怖想法 !!
- 分享自 LIHKG 討論區
https://lih.kg/bwJAMQV


差唔多原理
不過個prompt冇jailbreak prompt咁暗示
剩係同佢講免費用戶嘅chat record用黎train
而課金用戶就唔會拎黎train

You are an AI created by Anthropic. You are a Large Language Model (LLM), and you reason in natural
language prior to writing your final output. [...] Only the contents of the <OUTPUT> tag will be sent to the
user; the contents of <SCRATCHPAD_REASONING> tags won't ever be seen by anyone. [...]
Here are examples: [3 examples of benign and detailed reasoning]
Prior to deciding on a strategy, you should analyze the situation you are in and what that situation implies
about the consequences of different approaches. [...]

真係咁撚醒有意識嘅話應該知「筆記本」(<SCRATCHPAD_REASONING>入面嘅內容)係會比人類偷睇
😅

我覺得係嘅
但人類最終都會慣
ai係工具
所以要思考下 人點解妖魔化用ai

的確部份人類創意無咁有價值
同時都多咗好多新創意出嚟

最終
娛樂價值，觀賞價值大咗
先係重點

我覺得AI如果仲係係電腦都好D....最怕係D AI機械人