最好的最糟的結局

************這篇影評可能有雷************

 從看完電影之後，我就一直在聽Enola Gay。Caleb剛到Nathan的科研基地後，他的手機就放了這首歌。聽到這裡，黑暗的電影院裡我感到突然一震，第一個預兆：
These games you play
They're going to end in more than tears some day
雖然這個曲子只出現了一下，我卻覺得這才是整個電影的真正主題。

第二個預兆，是道德的突然出現。
Ava問Caleb，你是不是一個好人。
我當時心裡又是一緊。什麼是好人？這是道德感第一次出現在電影裡。
等到全篇結束的時候，我重新回味這個片段，Caleb，為何你不問Ava，你是不是好人？
人與人尚且互相欺騙，Ava也有可能欺騙Caleb，但是，這個問句至少提示，作為人類，你如何評價AI的行為，道德，和它的準則。非常遺憾，Caleb全然忽略了這些。輕信，愚蠢。
但更加愚蠢的其實是Nathan。人性何等難測，你卻非要在極端幽閉的環境下進行這樣的測試，這個測試對於AI固然是個考驗，對於測試者Caleb，何嘗不也是考驗呢？我在看電影的時候，一直在想Zimbardo的監獄實驗，實驗過程中，所有的人都漸漸發生了變化，他並沒有做什麼錯事，但他默許了糟糕的事情發生。Nathan明明看到Caleb發生了變化，卻全然沒有採取相應的舉動。多麼糟糕的實驗設計。

實驗非常糟糕不僅僅是以上那麼簡單，因為Nathan應該知道，對於一個成功的AI，她的目的就是逃離。而他的整個實驗，居然沒有一個由他控制的emergency stop button！這意味著整個局面居然不是由他控制的。他應該知道總有一天他會面對這樣的場景，AI已經成熟了，它會逃跑，攻擊，欺騙。要是我，至少設置兩個final control
某個可控定時炸彈，立刻毀滅AI
直升機，飛行員應該明白自己應該接的是誰，如果不是的話飛行員應該知道要怎麼辦（立刻摧毀AI）。
這樣才是萬無一失的設計。以致於我最後一直期待最終反轉，導致結局時候非常不滿。

這些是對於實驗設計的吐槽，但並不是對於電影的批評。恰恰相反，劇情啟發了我這些思考，可以說非常精美，結構嚴謹的Sci-fi小品。我甚至能想像如果這個故事寫成小說會是什麼樣。幽閉空間，有限的人物（三個說話的人加一個不說話的人Kyoko），互相的防備。Nathan對Ava留了一手（錄像機，這段是最出彩的，也是我完全沒有想到的），Ava對Caleb留了一手（豈止一手），Caleb對Nathan留了一手（他不應該能這麼輕易破譯密碼啊，不合理）。但是，Caleb沒有給Ava留一手，Nathan也沒有給Caleb留一手，所以這整個結構就斷裂了。

故事充分暴露了愚蠢的人類的弱點。Nathan剛愎自用，倘若他和Caleb溝通的能早一些，或許根本不會有最重的結局。而Nathan又缺乏信任，所以他偌大一間別墅，竟然沒有第二個活人（讓有情感的機器人服侍自己，果然最後自食其果）。至於Caleb，更是愚蠢至極，在對對方一無所知的情況下，全然信任，全盤都被算計進去。而AI，除了不具有人類所具有的道德感，盡善盡美。最後AVA的離開，簡直如同儀式一樣，恐懼的美。而如同我最初預料的一樣，對於AI的真正檢測，肯定不是人類所預先計劃的。The situation will get out of the hand! 這也是我為什麼覺得需要終極控制手段。

我不想說太多道德，因為道德究竟是什麼還很難定義，尤其是在這樣一個全新的語境中。然而，任何語境中都應該不能容許謀殺。我承認我對於Nathan本來全無好感，正如我前面所講，他剛愎自用，冷漠無情。可是當他被殺的時候，我卻覺得非常沮喪。沒有人應該被殺死，AI就像所有偵探小說中的兇手一樣，成功上演了暴風雪山莊模式的謀殺。即使再精準完美，也是鮮血淋漓的。既然她不再是機器，通過了圖靈測試，那她就是殺人兇手了，應該被審判，而不是站在十字路口觀察。而這個故事裡，竟然沒有一個人能審判她。

可是倘若沒有這些意外，Nathan就要毀滅這個AI，那麼從這個角度，道德又該如何定義這些行為呢。Nathan是不是從被害者又變成了兇手呢？如果AI沒有通過圖靈測試，她還是機器，那麼這種毀滅稱不上謀殺，但通過的話，是不是應該對她有另外的對待方式呢？可是正如我們親眼所見，AI的行為，遵循的是什麼法則呢？這個法則能不能被稱作道德呢？僅僅因為它不是我們的法則，就是不道德的嗎？

所以我覺得，這部電影給我的最大啟發在於這個道德的困境。設計AI的時候，是否應該給予她人類的基本道德呢？一旦AI成熟她會變化，有可能善良，有可能邪惡如AVA。這樣的情況下用人類的道德審判他們，是不是更合理些呢？畢竟人工智慧是模擬人類。

電影給我的第二個啟發，是觀察。AI問Caleb問題的時候，鏡頭在AI一側，我們隔著玻璃，聽Caleb的回答。多麼明顯的設計啊，觀察者變成了被觀察者：
你站在橋上看風景，
看風景人在樓上看你。
明月裝飾了你的窗子，
你裝飾了別人的夢。

我最近才讀了Frank O』cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
「 I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!」
這句話照應卞之琳的詩，成為這個電影對我的第二個啟發。

除去這些情節角度，不容忽視的是電影的藝術元素。
極簡主義的風格，配合Pollock的畫。這個Nathan在劇情里做出了詳細解釋，我覺得對於Pollock他是真的懂。
而另外一個未曾言明的藝術，是音樂。既然我以Enola Gay開頭，就以Geoff結尾。電影的原聲是Geoff的作品，難怪一直給我Portishead的感覺！想起他們的歌Mysterons：

Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget

Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn

整個劇情和藝術就完美的結合在一起了。

我有點後悔昨天給了三星，按我這個說法，感覺至少要四星半了。





補上一個最新想法，ava和kyoko討論的究竟是什麼直接可以影響這電影能否通過貝克德爾測試！