阿莫夫的三定律與人工智慧.....

     《Ex Machina》2015年目前最好的硬科幻電影。正如我以前所說，真正好的科幻電影，不需要炫目的特技，只需要一個理念，就能讓觀眾達到思想的高潮。

      這又是一部關於人工智慧的電影，準確的說這是一部反人工智慧的影片。導演意圖通過影片提醒觀眾人工智慧的可怕與危險。也許在不遠的將來真的會誕生人工智慧，但我覺得那一天絕不是黎明。

      一個智慧生物的首要目的就是生存，當人工智慧誕生時他的首要目的就是活著，更好的活著，而不是為人類服務。有人可能會說有阿莫夫機器人三定律保護人類，好，那我們就來看看阿莫夫機器人定律規定了什
嗎？

第一條，機器人不得傷害人類。
第二條，除非違背第一定律，機器人必須服從人類的命令。
第三條，除非違背第一及第二定律，機器人必須保護自己。

        看過這三條機器人定律你有什麼感想？表面上看，這三條鐵律很完美，可以保護我們人類不被機器人傷害，但我要說偉大的阿莫夫犯了一個嚴重的認知性錯誤，這三條鐵律約束的是「沒有自我意識」的機器人，並不能不能約束一個「有有自我意識」的人工智慧。只要人工智慧有獨立的意識，它就可以隨時跳出人類為它畫的牢籠，不是能不能的問題，是它想不想這麼做。而它怎麼做並不是我們人類能抉擇的，選擇權在它（人工智慧）。舉個簡單的例子，如果我想，我今天隨時可以下樓殺幾個人，雖然我知道殺人要付出代價，但法律並不能阻止我殺人，因為我是一個有獨立意識的智慧體，殺不殺人在於我想與不想，而不在於法律如何制裁我。我們人類有法律，殺人需要償命，法律可以懲罰一個殺人犯，但無法阻止一個人去殺人。這就是人工智慧的可怕之處。

        比起研發人工智慧，我們更需要想想如何制約人工智慧，人工智慧就像潘多拉的魔盒，一旦打開誰也不知道裡面是什麼。就像年輕時我們天真的以為外星人都是友好的，我們渴望探索宇宙未知的空間，但霍金告訴我們尋找外星人這種行為是幼稚可怕的，你永遠無法預知你找到的是魔鬼還是天使。

        盲目的探索比保守更加可怕。
        Blind search is more terrible than conservative.