[Skynet]美軍模擬AI操控無人機 竟把操作員殺了

係佢自己set漏指令

最高效率完任任務......................WING巾既ZERO SYSTEM?

啲老細淨係識手指指

幾人性化

我著眼於點解要拎呢一次寫出黎遮
唔係話佢唔值得深思

ai唔係一般程式，ai會自己諗

Reinforcement Learning
即係每次都同你講,一定要完成個任務,兇一兇你
今次FAIL,下次又兇得你勁D

迫AI自己諗新出路

一旦實戰，個操作員真係死咗就pk了

We all know this, skynet

邏輯自洽喎

Ai 同psychopath一樣 你再加佢都係會做啲奇怪嘢
最後可能會自隊

咁寫只要AI發現攞一萬分比扣9999分容易時, 佢就會選擇扣呢9999分去完成任務...
無論扣幾多分都好, 有得畀佢做決策本身就係件好危險既事.

可能個模擬入面殺完個操作員,冇人阻住射2飛核彈過去就完成目標呢
呢d後果ai唔會計

真AI係預計唔到有咩output, 同人一樣

2005年嘅Stealth 都拍咗出來，班programmer都仲唔醒水
https://youtu.be/nciVhEiNM2E

順我者昌 逆我者亡

Horizon Zero Dawn劇情....
冇Override 的AI機械軍團

你自己啲commands contradictory怪個AI
人類士兵就話驚你包大人好大官威啫 AI打你咪打你

其實個ai dysfunction自己接收指令個part咪得

詳細報道正正就係發現ai 會攻擊操作員，所以再次模擬設定攻擊操作員會減分，但進化ai 改為攻擊指令塔。

其實再run 落去意義不大，因為ai 運數結論，決定用不道德方法去達成戰略目的，去到實戰ai 飛機分分鐘飛離通訊區域去迴避指令。

呢位情況有少少特殊
佢本來係一個正常對人類無害嘅AI，係畀另一個AI嘅原生病毒感染，變成一個暴走嘅AI
跟住個原生病毒喺佢度變咗種，就再感染全地球其它機械變敵人類嘅Mavericks

幾有人性
邊個阻佢殺邊個