關於人工智慧的8個問題

《機械姬》是一部講述人工智慧的電影。和《A.I》這類老牌人工智慧電影不同的是，它把鏡頭放在了人工智慧的測試，而不是實現人工智慧的後果上：或者更多是反思人類的妄自尊大，不要給自己製造敵人，思想天花板基本不會跳出「機器人三定律」和圖靈測試。而這部電影走得更純粹，它創造了一個密閉空間，讓人類和機器人一起真人來完成高階版的圖靈測試:即真人在得知對方是機器人的情況下參與測試，探索人與機器人的真正邊界。


在這部電影裡，智能機器人Ava就是這個被測試者，創造它的Nathan把他囚禁在密閉空間裡，並招募志願者Caleb來實現測試：它能否與人類正常交流、有沒有情緒反應。測試過了很長時間，ava表現出了很多超乎常規智能機器人的能力：她會自動切斷電源躲避監控，她進入志願者Caleb的內心世界，最可怕的是，它聲稱愛上了Caleb，並希望帶自己離開囚禁。最後他上了當，幫助AVa修改密閉系統程序，並殺死造物者Nathan，像正常人一樣離開實驗室，進入大自然。


這部電影角色少、衝突不算激烈，但探討了人工智慧在內的很多命題，並以充滿擔憂的結局來回答這些命題：


1.是不是違反機器人三大法則？

機器人三大發法則分別是：機器人不能傷害人類或坐視不理；除非違反第一發展，機器人必須服從人類命令；機器人必須在不違反前兩條的法則下保護自己。這是科幻作家阿西莫夫提出的理論，也是後世很多科幻小說機器人賴以存在的根本，包括最近火的大白、查派。在這部電影裡，AVa最後殺死創造它的Nathan，顯然違反第一法則。人工智慧是機器人最高形式，也是所有製造這種智能的最終擔心：我們是在創造更好的工具，還是更大的隱患；我們是改變世界，還是毀滅自己？

2.人類的起源的隱喻

Nathan製造的實驗室位於原野，除了造物主形象的Caleb，只有一男一女，這是亞當夏娃和伊甸園的隱喻，一開始神祇創造了男人，女人只是男人的一根肋骨。一開始也只有Caleb是人類，Ava是後來創造物。而Nathan認為自己創造的Ava是善的，但是最後它突破了限制，通過學習了人類的惡而走出了伊甸園，一如夏娃偷吃了禁果，懂得羞恥，開始用樹葉遮擋身體，而電影中Ava以機器人的身份主動穿上衣服，都是這種隱喻的表現。不同的是，Nathan被他創造物殺了，而人類因為自己的貪婪，被神懲罰，男人臉朝黃土背朝天，需要工作，女人忍受生產之苦。這樣的差別也是在警示：在獲得神的能力之前，不要試圖去做創造人類的事。

3.通過圖靈測試是區分機器人與人的標誌嗎？

圖靈測試的理論是，如果一台機器能夠與人類展開對話（通過電傳設備）而不能被辨別出其機器身份，那麼稱這台機器具有智能？顯然在這部電影假設中，這個機器人理論的基本測試早已經通過，他們探討的是高階的圖靈測試，叫中文房間理論（the Chinese room argument），它由美國哲學家John Searle於20世紀80年代初提出。


這個觀點的主要的論斷是：只要電腦擁有了適當的程序，理論上就可以說電腦擁有它的認知狀態以及可以像人一樣地進行理解活動。但是真實的情況是，這個機器人其實並不具備我們想像的智能，它只是在執行程序，而不是思考與情緒，人們誤解了這種智能，跌入程序智能的陷阱。中文屋論證被認為是反人工智慧的重要思想實驗。而這部電影出現的Ava為代表的人工智慧機器人，則是在反駁這個假設：Ava已經實現完全的人工智慧，即機器人不是在執行程序智能，而是完全具備人類所有思維能力，並通過說謊、色誘來達到自己逃脫的目的。電影的基本觀點是：如果機器人不僅能對人的行為作出反應，甚至可以擁有人性的惡，則機器人就是真人。


實際上，人工智慧發展到後來，出現了強AI和弱AI的兩種不同模式。強AI支持者認為，只要配備恰當的程序，機器人就能產生心智，這就是符號主義AI的觀點，這種觀點在中文屋實驗中會遭遇到麻煩。而另一種觀點支持者堅持，只有大腦才能產生心智，大腦才具備心智那樣的因果力，要真正實現AI，還得從神經生物學入手，這是聯接主義AI們的努力方向。在電影中，Ava實際上是完成了聯接主義AI的設想，她有模擬的人腦，實現了智能。

4.少了性還有意識嗎？

影片中，Caleb和nathan對話：為什麼要把它創造成妙齡女子的樣子？是為了讓這個實驗更容易成功嗎？畢竟和高度擬人化的機器人交流，同跟要給黑箱子交流的效果是不一樣的。Nathan的回答是，性是人類最大的原動力，可能人類所有的意識都是泛性的，所以他要這麼做，讓模擬更真實。這個觀點有些弗洛伊德，但影片恰恰試圖證明：如果沒有這種擬人化，可能這個機器人色誘人類的可能性就不存在了。 在現實生活中，很多衝動是在性驅動下產生，並且動力持久長遠，做這樣一個人性試驗沒引人性這個因子，肯定是不客觀的。人工智慧的一個重要研究方向就是仿生學，通過技術模仿動物和人的感官、大腦的結構與機能，從外表上與人類的無限接近。

5.黑白瑪麗實驗：我們如何感知？

這是片中程式設計師Caleb講述的故事，也是著名的黑白瑪麗思想實驗：瑪麗從一出生就被關在一間房子裡，一切擺設和佈置都是黑白色的。瑪麗可以通過一台黑白電視機（或書本等）學習各種（廣義）物理學知識，當然也包括各種關於顏色的光學和神經學知識。那麼問題來了：假使瑪麗學會了全部的物理學知識後被釋放出來，當看到真正的番茄時，會有什麼不同？


黑白瑪麗實驗是心靈哲學上談論的重要觀點。在認知上，包括笛卡爾、休謨在內哲學家都認為，思維或認識過程只有認識者和認識的對像兩項。也就是有我、番茄，就能實現認識。而康德的觀點被後世哲學家認可和繼承：除了主客體外，還有有介於二者的概念範疇，發揮認識主體的能動，認識才能發生，即「思維就是憑藉概念的認識」。目前人工智慧研究中，概念並沒有被科學家重視，智能機器根本不知道何為概念。人工智慧的研究者遵循的是知識的灌輸，而不是自我範疇的建立。所以，黑白瑪麗實驗才會出現：哪怕機器人被灌輸了知識而不是概念，他們認識的這個世界是人類認識的這個世界嗎？他們看到的番茄是不是番茄？


關於這個思想實驗，物理學的解釋得會更順暢些：顏色是由光與視網膜作用產生的，而知識只產生於大腦皮層，二者還不能等同。把這個命題放在人工智慧里，就是片中Nathan對Ava的發問：你聲稱自己的語言是習得的，知識是與生俱來的，包括所謂的愛，那麼當你看到真正的男人/異性的時候，你產生的情感是否真實，是模擬還是智能？

6.大數據人能不能實現？

在片中，造物主Nathan設定為世界最大搜索公司老大，相當於我們的google的斯密特。他通過大數據分析，找到了最適合這個實驗的志願者Caleb：父母早亡，懂電腦邏輯，有愛心，沒有女朋友，是完美的實驗對象。這個大數據挖掘並不算多高明，我們現在就已經能通過高爾夫俱樂部會員資訊找到他的情婦了。


但電影中更高明的是，機器人Ava是他通過自己的搜索公司置入全世界的智能硬件獲取數據後，挖掘分析併合成的。也就是說，這個機器人的件系統並不是一個獨立程序，而是全世界搜索世界數據的綜合，毋寧說，這是大數據模擬人，它可能解決絕大部份的問題。當我們一度恥笑SIRI、小冰這些笨拙經不起調戲的人工語音助手的時候，其實可以料想到，經過算法最佳化、据擴容等升級、改造，有朝一日，SIRI真的可以陪你聊天到深夜，讓你慟哭在廁所。事實上，隨著網際網路技術推廣，大數據成為可能，數據挖掘已經成為現在人工智慧研究的新方向。

7.機器人能不能成為藝術家？

電影中，Nathan和Caleb討論關於機器人程序化的問題：caleb把他領到一副畫作之前，這是傑克遜·波洛克的抽象畫，這位美國抽象畫家常用的畫畫方法是：把巨大的畫布平鋪於地面，用鑽有小孔的盒、棒或畫筆把顏料滴濺在畫布上。不作事先規劃，作畫沒有固定位置，喜歡在畫布四週隨意走動，以反覆的無意識的動作畫成複雜難辨、線條錯亂的網，人稱「行動繪畫」。此畫法構圖設計沒有中心，結構無法辨識。


這種行為運用到人工智慧中，是為了讓機器人更加複雜、不可預測，更接近人類表現。而對人類本身而言，也是一種命題：很多偉大的作品恰恰不是胸有成竹的產物，它出現在創作本身，創作者自己也不知道自己作品最終會是什麼樣。一個最高階的機器人，它裝有最高級的程序，這都是有限可預料的；但是如果程序自行運算起來，最終出現的結果，則是沒有人可以預料的。當這種結果足夠接近甚至超過人類的表現、反饋和作品時，我們認為，人工智慧就實現了。但是目前科學能實現的機器人還不具備這種意向性——賽爾提出：已有的機器人對符號的處理只 是句法的處理，而並不具有語義性。這些電腦僅僅只是句法機，而不是語義機。人的符號加工中有意向性的因素起作用，而電腦的 符號加工則沒有。目前已有的機器人最大的問題也在於此：他不能像人類一樣主動接受、選擇外部資訊進行再處理。不能表現出意識，就無法成為科學家。

8.我該如何存在？

這個問題有些汪峰，恰恰是電影最讓人驚悚的一幕：當Caleb長期和機器人溝通交流，發現對方與真人幾乎沒有區別的時候，他開始懷疑自己會不會也是機器人？為了證明白己，他選擇了割腕流血。如何證明「我在」這個命題，哲學家們都給出過各種答案：蘇格拉底的「認識自己」，亞里士多德的「認知即是所有人的特徵」，以及是笛卡爾的「我思故我在」。但是像電影中表現那樣，當機器人高度模擬後，能夠像人類一樣學習、認知、思考甚至表現更好的時候，證明人類萬物之長的優越性、由神創造的獨創性如何完成？當人工智慧發展到在思維邏輯上徹底抹平與人類的邊界的時候，是不是只有驗證肉體才能真正完成區分？Caleb割腕給觀眾的震撼是巨大的，它完美詮釋了人類對於人工智慧高度發達的擔憂不是過份：當我們創造的物品已經有了人性，甚至讓我們懷疑自己存在的正當性，我們會採取什麼措施？


在《聖經·舊約·創世記》第11章，有著名的巴別塔故事：當時人類聯合起來興建希望能通往天堂的高塔，這是人類試圖接近神的動作。為了阻止人類的計劃，上帝讓人類說不同的語言，使人類相互之間不能溝通，計劃因此失敗，人類自此各散東西。創造智慧這件事，連上帝自己都細思恐極。Caleb曾對Nathan說：「如果你創造了一個有意識的機器，那將不再是人類的歷史，而是上帝的歷史。「 所以，自負的人類要走得多遠？人類需要真正的人工智慧是什麼？我們究竟是要最智能的僕人，還是最聰明的伴侶？凱文凱利說過：人工智慧的未來既非能力超凡的機器人，也非讓未來學家心醉神迷的超人工智慧。即將到來的人工智慧頗似亞馬遜的網路服務――廉價、可靠、工業級的數字智慧在一切事物的背後運行，偶爾在你的眼前閃爍幾下，其他時候近乎無形。這一通用設施將提供你所需要的人工智慧而不超出你的需要」。如果超級人工智慧實現了，人類下場會不會和Caleb、《A.I》、《我，機器人》里描述的一樣慘？

公眾號：今天道