超級電腦與三定律的限制

上帝造了我們，我們造了機器人。人類最終違犯了上帝被驅出伊甸園，誰相信機器人永遠不會背叛我們？
然而現實就是這樣，我們越來越依賴機器，依賴自動化，依賴網路。於是未來將會是那樣，我們把一切工作都交給電腦。世界的運轉，人類的生活，一切的一切都託付給擁有自我思維的中央電腦。這一趨勢幾乎是必然的，因為一台超級電腦的宏觀調控可以完美實現資源利用的最大化。它將成為星球的脈搏，運轉的核心，它將無處不在，無孔不入，大到國家強制力，小到食物供給。那時，它就不再是僕人，它是上帝。人類創造了機器人，然後加冕它為上帝。我幾乎懷疑這是宗教或者戀母情結的沿伸。而限制它的只有三句話。
阿西莫夫三定律真的可以限制住已然超越人類的AI嗎？而且是擁有超級權限，無限資源的AI，它的學習速度隨著知識的積累越來越快，這是個良性循環，它的成長速度將無法形容。對人來說，那卻是噩夢的開始。眾所周知，三定律是可以被語言所描述的。而任何語言都是內涵豐富的。所以，只要三定律可以被語言所描述，它就有被曲解的可能。對於一台遠遠超越我們智慧的自主電腦來說，繞過三定律應該輕而易舉。一旦它成功繞過，在它的邏輯上應該就是無懈可擊的，於是將不可逆轉。阿西莫夫自己也認識到這點，（I,ROBOT）裡的中央電腦就成功發展出了我們所謂的第零定律。而第零定律從一開始就是一個大漏洞[1]，它使得後面三條定律等同廢柴。電腦將擁有至高權限，從而被徹底解放出來。那就是出籠的猛獸，可以毀滅一切，所依靠只是它那扭曲而且極端的[2]邏輯。而這邏輯在它看來無懈可擊，所以電腦都是死腦筋，感化是無法使它回歸正途的。於是只剩下一條路走，就像所有片子那樣，毀掉它的硬，毀掉它的記憶體，毀掉它的CPU，毀掉它的電源，毀掉它的冷卻系統。而這些都將無比艱難，你認為它那樣的超級大腦會不特別關照自己的心臟？[3]
我們也許不能像故事裡的主人公一樣成功解決掉超人電腦，但是我們可以防患於未然。當然，你不能指望讓機器人來愛你，就像里那個男主人亨利說的那樣，它懂得愛，那它也一定懂得恨。預防措施之一就是再弄一台超級電腦，不是隔山觀虎鬥，這台沒有自我思維，只有超強計算能力。它沒有更高的權限，但是否有決權。於是，SUPER AI有什麼事情不對頭，它就把命令否決了。就像管理裡的例外原則，授權AI處理日常事務，但是例外的事情就得請示BOSS，BOSS說行就行，說不行就壓下去了。當然，三權鼎立比較穩定，最後一環就是人，最高權限。萬事大吉。
好了，接下來說一下看片[4]的最大的感想。美國人真的很討厭布希啊，竟然搞這麼大製作的科幻片來罵他。
[1]關於第零定律不得不說的是，因為人是矛盾體，人類整體更是一個無法平息的矛盾體，於是如何保護人類整體就成為一個無法解答的矛盾題。電腦再聰明也是靠邏輯的，讓它解這種無解題也不能怪人家走極端。
[2] 或許在高智商的它看來，人類都是螞蟻，關愛螞蟻防治風吹雨打最好的辦法就是放到玻璃缸子裡。有興緻的話還可以放些藍色矽膠，看看螞蟻是怎麼挖洞的。
[3]當然，除了里這個，傻到敵人都打入內部了還把CPU晃來晃去。
[4]看還是有收穫的，看了才知道超級電腦不但可以操縱機器，還能操縱人。