正是因為這個原因,他感到非常擔心:
近年來我逐漸意識到,AI 很明顯在很多方面的智力已經超越人類了。當到了某一個點之後,或許就會有很可怕的事情將要發生,一些超出我們控制範圍的事情。或許它們不會這麼做,但是它們一定具備這個能力。
但是站在人類的角度上說,這種可能帶來危險的AI 並不是人類想要的。
當我在2015 年採訪Elon 的時候,我問他是否會願意加入到這場聯合打造更強AI 的運動中。他說,“說實話,我認為人類根本不應該去做這樣一件事。”然後我回應,打造這樣一個比自己本身還要聰明的東西是違背達爾文定律的。Elon 聽了之後說道,“如果我們共同努力,我們肯定會成為成為這場競爭中的勝者。”
兩年之後的今天,他說了這樣一段話:
很長一段時間以來,我都認為需要警惕AI 的發展,但是卻沒有什麼作用(笑)。所以我想“好吧,那我們只能想想怎麼樣才能讓它更健康地發展了。”
他接受了現實——直到人類挖掘完所有潛力之前,人類都是不會輕易罷休的。這就是人類目前正在做的事情。
不管別人現在怎麼猜想,沒有人真正知道未來當計算機也學會思考的時候將會發生什麼事情。在我寫過的一篇解釋AI 的博文中,我分別對兩種觀點進行了分析,一是AI 將會提供目前所有問題的答案,第二種是,如果把人類比作是小孩子,那麼AI 就是一顆人類還在把弄卻一無所知的炸彈。我個人還在糾結究竟要站到哪一邊的陣營中,但是為將來可能出現的最壞的狀況做好準備應該是最理性的選擇。許多專家在這一點上都是讚同的,但是現在卻還沒能達成一致的意見,要怎麼做才能安全地發展AI——答案很多,但是誰也不知道究竟哪一個才是對的。未來的世界會變成什麼樣子,沒有人知道,又怎麼能為其想好預防措施呢?
Elon 也知道——所以他正在製定一個能夠最大機率保證人類未來發展的計劃。
Elon 的計劃
當林肯說出這句話的時候,他對自己非常滿意:
決不讓人民的政府,人民選舉的政府,為了人民的政府從地球上消亡。
說得好。
這句話中的政府,人民的政府,人民選舉的政府,為了人民的政府,正是民主制度的核心。
不幸的是,其中的“人民”或許就沒有那麼令人滿意了,最終造成民主制度同樣也難以令人滿意。儘管如此,這還是目前最好的。Elon 說:
我認為對於集體的保護是非常重要的。丘吉爾說過,“民主制度是最差勁的管理形式,但是仍然比其他所有方式要好。”如果我們擁有柏拉圖口中的那個卓越的哲學家來當我們的國王,那當然不會有問題。但是現在大多數的獨裁者並非如此。他們大多數都太可怕了。
換句話說,民主制度就像是為了躲避暴君而逃到一條臭水溝裡。
人的一生中有很多次機會,可以給自己機會去嘗試一些風險比較大的選擇,以求更好的結果。但是當風險已經到達頂點的時候,最好還是選擇比較安全的做法。權力的選擇就是如此。這就是為什麼即便民主制度的作用是有限的,Elon 還是說,“無論現在民眾對於總統有多少看法和意見,他們都不會去選擇獨裁制。”
因為Elon 把AI 看做是一種終極權力,他認為這是應該盡量選擇安全的情況。因此他防範AI 的策略就是讓AI 成為“人民的AI,人民選擇的AI,為了人民的AI。”
為了實踐這個概念,Elon 嘗試著從很多個角度切入來解決這個問題。
針對後面兩個部分的“人民選擇的AI”及“為了人民的AI”,Elon 和Sam Altman 成立了Open AI——他們稱為“非盈利的AI 研究機構,為打造AI 的安全發展之路而成立。”
通常來說,當人們致力研發某種新東西的時候,創新通常都由小部分先鋒開始。當他們成功之後,新的行業就會產生,這些先鋒開啟的事業將會被後人繼承,接著大範圍地開始展開。
但是如果這些先鋒們打造的東西能令它的擁有者有著不可攻破的至上權力呢——甚至是阻止任何其他人擁有這項能力的能力。這聽起來是不是讓人壓力山大?
這就是Elon 看待當今AI 發展的方式。既然他無法阻止別人去創造這樣的超能力,他的解決方法就是創造一個開源、合作、透明的發展實驗室,而不是像其他公司一樣,將它作為一項秘密技術實現。OpenAI 將所有的創新開放,提供給任何想要的人使用。
另一方面,這種做法也有不足的地方。一些心懷鬼胎的人同樣可以利用這些開源的技術為自己的不良目的服務,而人類最不希望看見的,就是第一個這樣的創新技術會落到這些不法分子的手上。但是現在這些完全開源的技術是所有人都可以自由使用的,無論目的是什麼。因此這就成了一個非常引起關注的問題。