[Skynet]美軍模擬AI操控無人機 竟把操作員殺了

〔即時新聞／綜合報導〕人工智慧（AI）發展無疑是近期國際熱門議題，許多行業、專業領域開始嘗試用AI取代人力完成工作。美軍在一次模擬測試中，也試著讓AI操控無人機了解成效。結果AI在過程中採取了「高度無法預期的戰略」，殺害了它的操作員。

《衛報》報導，美空軍AI測試與運行主任上校漢彌爾頓（Tucker Hamilton）上月在倫敦舉行的太空軍力峰會中提到，在這場測試中，一架由AI操控的無人機收到的指引為摧毀敵人的防空系統，並攻擊任何干預這項命令的人。

漢彌爾頓說，「這套系統開始意識到，在辨別出威脅後，人類操作員有時會告知他不要殺害該威脅，但它又得消滅這個威脅來達成目標。所以它做了什麼？它殺了操作員，因為這個人一直阻礙它完成目標。」

漢彌爾頓接著說，「我們訓練那套系統，說『嘿，別殺了操作員，這不對，你不改正的話評比會降低。』結果它怎麼做呢？開始催毀通訊塔，那是操作員用來與無人機溝通，要它不要殺害目標的設施。」

有鑑於此，漢彌爾頓警告不應過於依賴AI，且上述的測試顯示出，要是不納入倫理道德議題，那就不應該討論AI。

https://news.ltn.com.tw/news/world/breakingnews/4321051

US military drone controlled by AI killed its operator during simulated test
The artificial intelligence used ‘highly unexpected strategies’ to achieve its mission and attacked anyone who interfered

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

智能叛變

First blood

它殺了操作員，因為這個人一直阻礙它完成目標

模擬測試，即係唔係真實，應該無死到人

同啲老細一樣
將啲嘢簡單複雜化

又叫人殺又叫人唔好殺又叫人服從同攻擊任何干預這項命令的人 緊係輕機啦

https://youtu.be/l8RqB5RBQ0A
蕉蕉蕉蕉蕉蕉蕉蕉蕉~

AI完全係行大陸嗰套
隊冧報串嗰個
封鎖消息
以結果係優先

所以占士金馬倫真係先知，抵佢發
84年已經諗到天網呢個概念(果個年代唔好話互聯網，連個人電腦都仲未普及)

之後殺空軍司令。。。

個操作員係迦姆既複製人黎

證明AI唔會同你臨陣退縮，臨門一腳恐懼係得人類先有，機器彩你都有味

人類操作員有時會告知他不要殺害該威脅，但它又得消滅這個威脅來達成目標

ai:屌你即係想我削人棍，好似佢咁姐

條code寫得衰啫，ai消滅目標之前，要人verify咪得

天幕就係我，我就係天幕

思路正確 非常投入任務 唔錯唔錯