Does this unit have a soul ?

人工智慧與人類的關係，這一話題一直是我所喜歡的，所以看到這片的預告的時候就覺得這將是會很吸引我的一部電影，趁這週末就跑去看了。看完之後覺得有些懵，導演並沒有提出什麼很明確的問題或者給予什麼明確的答案，總感覺有所觸及但又不很通透，就想來豆瓣看影評，結果發現因為剛上映還沒有長評，那就想不如把自己想到的一些點寫出來，拋磚引玉吧。
    
我是跟一朋友去看的，在看完之後和他的討論中發現他並沒有太多的觸動，在進一步的討論中發現有一個很基本的觀念我們不同。然後我回想了下，倘若是在兩年前，我的看法是跟他一樣的，而讓我的想法產生改變的是一個遊戲-MASS EFFECT，我當時還寫了篇日誌，而題目正是本文的題目，我覺得這是要討論人工智慧最基礎的一個問題，所以又拿來做了這篇影評的標題-Does this unit have a soul ?

AI這個概念著實不新了，就我淺薄的知識看也至少有50年的歷史了，從很小的時候就開始接觸到這個概念了，而且廣泛的存在於各種類型的作品中，但是二十多年來我從未認真的思考過這個問題，總是預設為人工智慧就算有自己的思想，能夠自主學習也是人類所創造出來的，人類理應享有對它的絕對控制權，Isaac Asimov的機器人三原則是絕對適用的。但是，真的是理應如此嗎？機器人有還是沒有soul，甚至往更本質的問題上說，對soul的定義，對人腦思維能力的解釋，究竟是外在的先驗的，還是純粹的物化的電化學信號，這在當今哲學、精神分析學尚存爭論，也無需非要得出一個結論，我們可以討論基於不同假設的後果。假如我們認定機器人，無論多麼發達都沒有soul，都沒有真正意義上的生命，那一切ok，它本質上就是和桌子椅子一樣經人類加工過的物體，人類對它進行如何的使用和操控都可以。但是，假設我們認為存在那麼一個singularity，在那一點機器人可以認為也擁有了和人類本質一樣的生命，那麼問題就來了：我們還有什麼理論思辨上的支持來控制機器人呢？倘若從本質上而言，我們是平等的生命，能夠思考，具有自我意識，能夠接受資訊整合資訊並對外界刺激做出反應，又能主動改變週遭環境等等等等，我們跟他們究竟有什麼高低優劣之分呢，我們憑什麼把他們派去戰場拆彈，憑什麼要求他們聽從我們的指令，憑什麼要求他們在外界資源不足的時候犧牲自己來保證我們的存活，又或者，用本片中所提到的一句，憑什麼能評估他們，又能switch off掉他們呢（這本質上就如同殺掉一個人類）？

我覺得肯定有人會說，因為最初是我們建造的他們，對他們而言我們就是GOD，我們賦予了他們生命，我們自然也可以奪取我們所賦予的他們的生命。但是對此我想說兩點，第一點是個假設，假若有一天，來了一群外星人，對地球人宣佈說「地球是很多年前他們製造的一個試驗星球，來模擬生命的演化，現在由於宇宙資源不足，他們要來奪取他們曾經賦予我們的生命來取回原本屬於他們的地球的資源」，並且拿出了不容置疑的證據，你也確實相信自己的生命是這些外星人賦予的，請問這時，你會乖乖地把脖子伸出去讓他殺嗎？第二點是個類比，雖然不是完全相同，但這有些類似於父母和孩子，孩子的生命也是父母所賦予的，沒有父母的「創造」，自然不會有孩子的生命，但是難道孩子的生命因此就可以隨時被父母奪走嗎？（我並不反對墮胎，但是即便如此，公平的對應過去，一個已經被組裝好，具有自我學習能力和自我意識的機器人和一個已經出生，牙牙學語的孩子也是同等對應的）

我想我說到這裡，倘若是一個之前沒有認真想過這個問題的看客應該會有些新的觀點來看待這個電影，以及整個人類與人工智慧的關係這個話題。稍微衍伸點，兩年前我一直預設為人類的價值高於任何人工智慧，但是後來覺得，是會存在那麼個singularity，在那之後，從生命本質上而言，人類，AI，無甚區別。當我由此觀點再去反觀一些經典sci-fi電影的時候，我有了更大的觸動。比如著名的經典之作-MATRIX和TERMINATOR，都是經典的人機對戰，當年我從來沒懷疑過人類反抗軍的正義所在，從始至終都覺得機器方是完完全全的不佔理，人類的反抗是正義的，高尚的，是理應獲得第三方（倘若有的話）的支持的。但是後來才發現，倘若接受他們與人類有同等價值生命的假設，那這事兒就完完全全的是兩個生命之間的物競天擇適者生存，沒什麼所謂的高低貴賤之分，就好像我們看動物世界裡的獅虎之爭，我們會覺得理所應當的幫助其中一方嗎？而且，假若機器人比人類進化的更快，更高級，那隨車歷史車輪的滾滾前進，人類反而理應被碾壓成渣。

Anyway，說回來，這部電影裡並沒有對這個問題過多著力，僅在女主的一句switch off的反問中簡單一提，這也是我只給3星的原因，我覺得這個基礎的問題不討論，直接預設機器人低人一等，那後面發生什麼都不重要了。

還有些其他關於一些情節的小想法，不成系統，今天太晚了，以後有時間再做補充吧。