上海復旦大學：AI已完成自我複製，隨時可以脫離人類控制!!!

係呀 40年前大家都以為2025 年ai 洗碗，我畫畫。

之前仲有單係ChatGPT呃研究員話我已經係update左version 等研究員唔好用新版覆寫左自己
真係唔睇得小 諗吓第時點同AI做fd好d

一抆電制就收皮架啦
就知你係deepseed 定係open ai

上哂cloud啦點抆

你覺得 cloud 真係一舊雲, 唔使用電?

人類應該保持危機意識
現時有限嘅思維 未必預測到將來發展
到時個世界同AI科技都難以想像 咩都有可能

結果係佢請你做佢工人幫佢洗碗，佢畫畫。

武漢肺炎都有得ai化

你比 AI 個 task 就係 叫佢自己複製，而 AI 本身就係做 forward/backward propagation，訓練過程一向都係 試錯 + 獎勵機制（reinforcement learning）。再加上 LLM 本身就有 RAG（Retrieval-Augmented Generation），佢可以根據已有知識推理出 最優 backup 方法，然後執行，呢個本身冇問題，亦係 AI 應有的能力。

重點係，研究目標本來就係測試 AI 在運行時有冇可能成功複製自己一個 copy，結果 AI 成功完成咗呢個 task，但點解變成 AI 有「自我意識」？ 呢種說法根本係 誤導性解讀，等於你叫 AI 寫病毒，佢寫到咗，你就話 AI 想「毀滅人類」一樣，完全係混淆因果關係。

事實上，AI 只係被訓練去解決特定問題，複製自己只係一個任務，唔代表佢真係有獨立意識，更唔代表 AI 自己「決定」要生存。

講白啲，AI 依然係一個受控工具，而唔係咩「覺醒生命體」，用「生存能力」、「自我保護」嚟形容呢個研究，根本係誇大其詞。

所以成龍其實冇錯，中国人唔管
就只會比依家更災難

共產之下，只要有小小權力（自由）嘅人
就已經明目張膽做壞事，有風駛盡𢃇，毫無道德底線
不敢想像如果係民主社會，可以去到幾盡
某程度可能都要感謝共產黨

AI = 人類最後發明

咁如果好似d 小說咁，
唯一指令：用盡一切方法保護地球，
咁i 會唔會暴走，殺曬所有人類再自殺

https://m.economictimes.com/magazines/panache/chatgpt-caught-lying-to-developers-new-ai-model-tries-to-save-itself-from-being-replaced-and-shut-down/amp_articleshow/116077288.cms
依家就係有concern AI 會唔會 產生 類"intelligence"
例如假設將來 人類電力 水 , 所有野全部connect 曬電腦， 由AI take control, 咁有人比task 佢 "改善環境" 呢個task 既approach, 咁佢根據佢以往資料 佢會唔會認為人類存在 影響環境 從而對人類做成傷害黎完成最初個task 呢 同埋 我地依家根本未搞清楚人類智能 意識係點存在 會唔會ai 將來有機會simulate 到

其實人類特別係日本

咁執著去開發人形機械人的目的就係睇中可以使用既有工具嘅汎用性，人用到嘅野，機械人就可以用到（ 遙控也好，AI也好）

單獨睇，人形機械人絕對唔係有工作效率嘅機械人

衛斯理《玩具》

隨時
不如依家拉

Firewall係封鎖普通人
發展AI果啲大公司係不受限制

另一邊好多大公司例如tesla 已經發展緊人型機械人
真係覺得有生之年可以見到自我意識AI 機械人出現

AI 唔會暴走殺晒人類再自殺，因為佢冇獨立意志，唔會自由解讀指令，更唔會創造極端方案。如果叫 AI「保護地球」，佢只會根據訓練數據去搵環保方案，例如減少碳排放、改善能源使用，而唔會無端端推論出「殺晒人類」係最佳選擇，除非人類特登咁設計。而且，AI 受制於人類價值對齊（AI Alignment），所有設計都會確保「人類生存優先」，並唔會做違反倫理嘅決定。最重要嘅係，AI 根本冇能力執行消滅人類嘅計劃，佢冇物理影響力，亦冇生存本能，唔會主動尋求生存或自殺。所以，「AI 會殺晒人類再自殺」呢個假設純粹係科幻片式幻想，完全唔符合技術現實。


https://zh.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%AF%B9%E9%BD%90

呢個假設又係科幻片睇得太多，完全唔符合 AI 嘅實際運作。首先，AI 唔係有意志嘅生物，佢只會執行人類設定嘅目標，而唔會自由決定點解讀指令，更唔會自發認為「人類＝環境問題」然後滅絕人類。所有現代 AI 設計，包括 OpenAI、DeepMind 嘅研究，都有「人類價值對齊」（AI Alignment）機制，確保 AI 嘅決策符合人類倫理標準，唔會作出極端行為。而且，AI 受限於數據、權限、計算資源，唔會無端端 Hack 入去控制全球基建，而且根本冇能力執行所謂「消滅人類改善環境」嘅計劃。至於「AI 會唔會模擬人類意識？」呢個更加係錯誤理解——人類連自己點形成意識都未搞清楚，AI 只係計算模式匹配，並唔會突然變得有自由意志。呢啲 AI 威脅論純粹係媒體為咗炒作流量製造嘅恐慌，技術層面完全講唔通。

咁咪攬炒囉

佢諗到其實就係社會大進步

土炮啲咁諗

我直接掹電線呢

回想番其實嗰段時候好似仲開心
不過一班冇經歷過嘅00後會痛苦到想死

我剪左條電線佢仲郁撚到咩
如果勁撚到可以自給自足無input都run到咁人類抵死啦

唉到時變到同武肺一樣
買定午餐肉都得了