經典的T2,以及對高級AI的思考

我本來就是的超級Fans,昨天看了,加上今天早上收到噹噹寄到的,忽然間覺得很多事情看似遙遠,其實暗地裡已經悄悄接近,只是我們渾然不覺.
智能機器人和人類的故事這種題材早已經不是新東西了,光電影就拍了N部. 這些故事都圍繞著一個差不多的爭論展開--該不該發展這種具有自我意識的超級電腦. 我第一次看應該是在1991年左右吧. 可能在很多人眼裡它是一部不錯的動作片,但也僅此而已. 我總共看了可能有30遍. 連的劇本我也收集了. 當然它是一部罕見的好的動作片,有著當時一流的特效和大場面. 但它在我心目中是如此的成功, 是因為它留下了太多值得思考的東西.
其實在我一直看來,比人類智力高千萬倍的智能機器是遲早會出現的,而且並不需要在太遠的將來. 也在闡述同樣的觀點,作者是人工智慧領域方面倡導硬件進化理論的先行者. 在他看來, 未來的人類將被智能機器毀滅. 不是由於爭奪生存資源或者意識形態差異, 而是因為雙方的差距已經極其巨大. 與裡的故事不同, 雙方在能力水平在將來是沒有可比性的. 你不會歧視苔蘚, 因為你們的層次差別實在太大. 你打死一隻蚊子的時候也不覺得需要多加思考, 儘管蚊子是經過億萬年進化而來, 比人類歷史悠久的多的複雜生物體. 認為, 將來智能機器也會同樣的毀滅人類,因為人類相比之下實在太蠢, 太缺乏存在的必要.
感謝詹姆士金馬侖為注入的靈魂. 生命的自由往往就像空氣一樣, 很容易因為隨手可得而被忽視. 但當你需要傾盡全力去爭取, 去戰鬥的時候, 你才會發覺, 以前生命中經歷的每一次日昇日落, 都是那麼的彌足珍貴.
有時候很慶幸自己出生在這樣一個人類激烈進化的年代. 幾百年前的人活80年所能經歷的變革, 今天可能幾年就可以遠遠超越. 可能在google上搜索一小時獲得的解決方案,以前需要在國家圖書館查書閱卷歷時數月. 太多的新技術就像進入了粒子加速器一樣以遠超過想像的速度在發展. 今天我們在討論用FPGA實現可進化的人工智慧硬件實現, 多久之後我們會談論可逆的三維電路, 或者量子計算? 電腦科學領域的預言往往都要冒被後來人笑話的風險. 「640k記憶體對任何人都夠用了」, 「全世界只需要5台電腦」 這些今天看來可笑的斷言可都是出自菁英之口. 過去幾十年來電腦的發展取得了讓人吃驚的成就. 但在以指數速度發展的電腦科學領域, 未來幾十年只會讓人更加驚訝.
但身處激烈技術變革時期的工程師和科學家, 我想偶爾也會思考同一個問題: 到底這些技術進步將把我們帶到什麼境地?
裡面有一段描述的感覺很能引起我的共鳴. 遙望星空的時候, 那種覺得自我無限渺小感覺. 人類大多數科學成就是在近100年里取得的. 100年對於宇宙來說是怎樣一個概念? 一瞬間都談不上. 而我們才剛剛處於這種文明爆發的奇點. 假如存在另一個文明, 以這種指數增加的發展速度發展了1萬年,會是什麼樣的情況? 無法想像. 單細胞的藍藻在我們看來如此的原始, 其他文明看我們,又有何區別?
有時候想想,生物體的進化實在是太慢了. 一個人類的生命一旦產生, 即使不是一個值得在此基礎上進化的個體,也需要將近3/4個世紀才能被淘汰掉. 而下一代需要20多年後才能產生並接受自然的優勝劣汰.而現階段的硬件進化已經可以在剎那間完成千萬次組合與選拔, 雖然規模還是處於初級的階段. 在量子計算以及其他技術的配合下,計算能力再提高10個數量級,進化的速度已經無法用人的思維去想像. 會產生什麼樣的組合? who knows.
由於軍事需求和商業利益的推動,這樣的事情遲早都會發生: 機器以自己都無法徹底了解的速度和方法在內部對各個零件做進化和測試優選, 給自己升級,或者從其他個體那裡通訊得到最優方案應用在自己的電路中. 看上去這種隨機進化獲得結構的方法好像很愚蠢, 但別忘了人類也是用這樣的方法發展過來的. 加上機器永遠不死和難以形容的高速運算能力,而最恐怖的是這種發展不是線性的,是在原來基礎上疊加滾動的.
去到那種極端情況,我倒覺得人類反而安全了. 人類說一個詞的時間裡, 智能機器已經了解完人類發展歷史並且開始思考如何通過蟲洞進行時空旅行. 好比岩石需要千萬年風化才能告訴人類: 「我在變化」. 而岩石面前的人類觀察岩石10分鐘後已經很不耐煩. 同樣的, 當人類試圖與超級智能機器溝通的時候, 智能機器只是給該任務分配了一個奈秒級的時間片,然後因為超時而取消了該任務. 人類在機器看來就像岩石,在機器感興趣的時間內,它沒有得到任何回應,所以人類基本是靜止的死亡物體.
也許到時候智能機器對自己的產生淵源也會覺得是一個迷. 人類沒有確切弄清楚自己是怎樣產生的,人不相信那些比我們低等得多的東西構造了我們.而一旦我們建造出一個自我進化的機器,他在數小時裡完成了生物體需要千萬年才能達成的自我完善與發展的歷程, 該機器同樣也無法得知自己的起源. 因為進化工程學本來就不能確切地預知進化和發展的方向,經過無數個分支的選拔之後, 後面的組合體已經丟失了當初的資訊. 機器也不會試圖與智力低於自己幾十個數量級的人類溝通, 就如人類不曾寄望藍藻告訴我們人類的發展史. 差異跨越幾個數量級的智能體之間應該已經不能產生什麼交流. 想像一下, 人和狗還可以互相打下招呼, 人與蚯蚓就很難做朋友了. 蚯蚓不理解我們在做什麼, 甚至覺察不到我們這樣高級的生物體存在. 與此類推, 我們到時候也不能跨越這種多數量的智力差異, 去意識到高級智能機器的存在形態. 更沒有交流的意向和衝動.
人類將來會扮演什麼角色? 也許人類就像將結束時Sarah Connor所說的: 未來尚未註定,一切在乎我們自己.