人工智慧與人類未來

作為一個圍棋愛好者，5月23日至27日在浙江烏鎮舉辦的世界圍棋峰會上，上演了一次舉世矚目的人機大戰，由世界最先進的阿法狗對弈世界最高水平的選手柯潔。在我眼中，這三場局的結果是毫無懸念在，AI必勝，人類必敗，但沒想到敗得這麼慘:3:0，人工智慧阿法狗完勝。之前阿法狗的前身MASTER在網路上就以60:0橫掃人類所有頂尖圍棋高手，而在MASTER基礎上進化的最新版阿法狗更是技上一層樓。


     賽局結束後，我發一個微信：柯潔雖敗猶榮。相信和狗狗的對弈會提升他的戰鬥力，這也許是電腦和人下棋的最大功勞：開拓圍棋新的發展模式。未來圍棋電腦是最佳陪練和老師。最終影響人與人對弈的水平。

        阿法狗團隊在比賽結束後宣佈：阿法狗的使命已經完成，從此退出圍棋江湖，把目標轉向醫學等領域。而對柯潔來說，這也是他最後一次和人工智慧下圍棋。

        所有的圍棋高手與大師都說：阿法狗不可戰勝。
        我也這樣認為，即使今天人類戰勝了人工智慧，也許明年，後年，終有一天人類在圍棋會敗在人工智慧手下。

       自1997年機器人深藍戰勝國際大師以來，人工智慧就向棋類運動中最複雜的圍棋進軍。圍棋與其它所有的棋類不同，圍棋的變化更多，據計劃，圍棋的變化是361×360×359×……2×1，即361階乘！361階乘到底有多大？大約1.43乘以10的768次方，即1後面有768個零！這個數字遠遠超出人類的想像，要知道，即使人類已知宇宙中的原子數量，也不過是10的80次方。
基於這種思考，在2016年第一次人機大戰，阿法狗對陣韓國第一高手李世石之前，有記者這樣報導：



       結果，2016年的阿法狗4:1勝。2017年更是3:0勝目前世界排名第一的中國圍棋選手柯潔。

        人工智慧的發展速度遠超人類想像，有人說5月的人機大戰，機器勝的不是柯潔，而是人類。

        談到這，要談三部我看過的與人工智慧有關的電影：《我，機器人》、《摩根》和《終結者》，以及一部與電腦有關的記錄片《零日》

        前三部是科幻片，後一部是記錄片，再加上現實的人機大戰結果，就構成了我今天的主題。

        先從《終結者》說起，終結者是講未來，超級電腦「天網」發動戰爭，想把人類消滅，然而卻遇到了頑強抵抗的人類菁英康納。於是，人類與機器人之間為了未來的生死存亡展開了一系列的追殺與反追殺活動，最終，人類毀掉「天網」，獲得勝利。

        在1990年左右看這部電影的時候，起先我是當娛樂片看，無非就是殺戮、暴力與刺激。後來出來《終結者》2和3，也都是當娛樂片，沒當回事。
        但今年的事以及記錄片《零日》開始讓我反思，這個看上去以娛樂為主的運作槍戰片其實離我們並不遠，就像記者說的電腦要在圍棋戰勝人類還有100年，可不到一年就把人類殺了個丟盔棄甲。
       記錄片《零日》是講述2010年爆發的「震網病毒Stuxnet」。這個電腦病毒當時感染了全球超過45000個網路；當時的電腦安防專家甚至認為，該病毒是有史以來最高端的蠕蟲病毒。
        問題是，這種病毒與普通的電腦病毒不同，它是專門設計用來攻擊人們生活中各式控制系統都備受威脅，諸如電網、通訊、石油、醫院、交通、ATM、銀行等基礎建設，它可以全面癱瘓人們的生活。記錄片顯示，超級病毒Stuxnet（真實名字叫奧運會OG），背後竟是美國與伊朗戰爭行動的陰謀，伊朗核武危機無法以政治手段解決，美國和以色列便對伊朗的網路展開攻擊。但因為以色列心切，為了更好的實現攻擊效果，竟然私自修改了病毒程序，結果是導致程序失控，並四處擴散，最終擴散到了美國。

        記錄片《零日》給我兩個啟示：一個就是搬石頭砸自己的腳。當初為了阻止伊朗開發核彈，美國與以色列聯合起來，採取行動，因為考慮軍事風險大太，於是轉向了病毒。本來是對付伊朗的，結果病毒蔓延到全球，包括美國自己也中標。所謂善惡終有報。

       第二點就跳出了這個事情，談的是人與電腦之間的關係演變。說到這裡要說另外一本著名的小說：《弗蘭肯斯坦》，這本英國作家瑪麗•雪萊在1818年創作的長篇小說，說的就是發明家最後被自己的發明的東西所吞噬。這本小說到了現代版可以通過《終結者》與《零日》這兩部電影得到啟發：人類最後會毀滅在自己發明的東西手裡。



      對於人與電腦之間的關係，我的思考是人是最終決定性的因素。所謂道與術的區別：術如果無道則害人；術如果有道，則有益人類，如同刀一樣。術就是指各種科技發明，從減少病情發生的疫苗到爆破用的炸藥，從登月火箭到電腦，這些發明本來都是來造福人類的，但一旦被用於軍事用途，這些造福人類的發明，轉眼就成了屠殺人類的工具：從生化武器到熱兵器，從飛彈到電腦病毒。

      術是需要道，而道則是由人來體現的。但這就是人的複雜性：人類身上兼有聖性與獸性兩面。術在有道德的人手裡，自然就是來造福人類。術在無德人的手裡，當然可以用來做壞事。這也是我們看到，在這個世界，任何發明在造福人類的同時，也兼備了毀滅人類的能力。所以，術最後如何作用人類，完全依賴人類。

       但隨著阿法狗戰勝人類。這個以前傳統的觀點得到了挑戰：如果術最後獨立於人類，不再依賴人類而運作和發生作用，怎麼辦？術的道德在哪？

      說到這，就要引入一個著名的美國科幻小說家阿西莫夫了。阿西莫夫寫了很多科幻小說，其中最有名的就是後來改編成了為電影的《我，機器人》I ROBOR。（不過，很遺憾，電影的內容與書中內容相差千里）這本書之所以有名，是因為阿西莫夫在此書中列舉了三條著名的機器人三法則：
      第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管
      (LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.)
      第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外
      (LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.)
      第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存
     (LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.)

       但這是人類的規定，如果以後人工智慧能自己思考，並突破人類的限制怎麼辦？這時候，人類該怎麼辦？再比如，如果殺一人可以救多人，機器人是不是可以殺人？像恐怖份子綁架劫持人質？再如果這個機器人是恐怖份子的，讓他去殺警察來營救被關的恐怖份子，機器人如何處理？比如像在《摩根》中，機器人為了完成任務而殺人。
       隨著科技的發展，未來電腦與人工智慧一定會越來越發達，甚至會有一天，機器與人會因為資源發生衝突，怎麼辦？甚至如果有一天，機器人有意識，發現他們是被人類奴役的，他們要爭取自己的權利怎麼辦？這一系列問題，我覺得是我們一定會面對與思考的。而對於這個問題的思考，我覺得我們可以從這幾部電影和相關書來進行思考。