Crash Fever Fever System 狂熱程序
Text23
Guilty(下)
「ALICE世界的架構已經完成，預計明年1月會有重大發表，最快3年內讓全世界的網路進行升級，大數位時代的嶄新革命即將來臨。」
查爾斯在全國的記者會上發表最新研究進度，全世界無一不關注這個即將對世界帶來革命的大數據統合計畫，原本以為只是癡人說夢的事，在此時成了來日可待的希望。
「在總部會有多達1千萬超級電腦統合網路，集結全世界優秀的工程師進行維護和管理，人工智慧也將成為輔助人類生活便利性的一大夥伴！」
ALICE世界內的人工智慧也向民眾展示其極高的智慧和能力，在應對方面已經幾乎跟一般人類無異。
不少輿論還是擔心有關人工智慧是否會造反的問題，查爾斯則強調這些AI在生產時都有經過絕對的服從指令和權力系統，人類只要握著比AI高的權力，在整個ALICE世界中單單一點例外不足以造成威脅，反而會被壓制下來。
以撒的離職已經過了15年，查爾斯也逐漸受到歲月的侵蝕，衰老的命運終究逃不過任何生物身上。
近乎花甲之年的查爾斯，在他有生之年如果能親眼看到ALICE世界的運作，那他也死無遺憾了。
如果說他並不在乎以撒的離職，那麼十之八九是在說謊，雖然在離職後的一段時間內查爾斯並沒有說什麼，加上那時候已經進入調整階段，工作量也沒開發中來得困難。
但是偶爾能在他的言語中，發現他對以撒的抱歉與不捨。
另外值得一提的是，大腦電腦已經漸漸淘汰，在北歐的一個物理學家發現了新的傳導物質，功率又是大腦的3倍快，這正是硬體劃時代的突破，ALICE世界也更加順利的進行。
###
在一切看似回歸正軌的路途上，上天又丟下了一塊石頭。
--一場在法國發生的無人駕駛電車車禍事件。
這場車禍，一下地就把人工智慧最致命的邏輯思考漏洞給挖了出來。
無人駕駛電車在法國等歐洲地區不是什麼罕見的事，相反地，十分常見。
為了ALICE世界的嵌入做準備，這些駕駛AI也都替換成ALICE的AI，起先並無任何問題，程序一樣地在跑，相同的步驟在正常情況下不會有任何問題。
然而，這是指在「正常」的情況下。
一位反ALICE的激進分子在電車內設置固體炸彈，並在電車通過河橋時引爆炸彈。炸彈的設置十分惡意，彷彿是要特意向眾人揭露AI的缺點似的；炸彈並不大量也並沒有造成巨大的爆炸，設置在車底附近的炸彈只炸毀了幾節車廂的一邊車輪，也就是說這樣的情況下駕駛還是能做出應對的。
電車的滑行發出淒慘的悲鳴，起火的輪胎和幾乎不受控制的煞車在軌道上擦出刺耳的火花，往前即便可以駛完過橋，但電車註定會翻覆，進而波及到附近的民眾。
但是若在橋上強行煞車，電車則會滑出軌道，掉進河裡。
機械的應對是死的，它們沒有所謂的經驗…..正確來說只要凡事遇到第一次就必會表現出如同智障般的反應。
不知道有沒有聽過這個電車問題？：
有一台高速行駛的列車，電車行進的軌道有兩條：其中一道綁著一個人，其中一道綁著五個人，而你就在切換軌道的切換閥旁邊，在來不及緊急煞車的情況下你只能切換電車行駛的軌道，那你會讓電車開往哪一道軌道？
以一般人來說，大概會選擇讓電車開往只有一個人綁在上面的軌道吧？
而原因大致上也如出一轍：因為5個人的生命比1個人多，在權衡輕重的比較之下，犧牲一個人救回5個人是個相對划算的結果。
但是機械不一樣，對於它們來說，5個人跟1個人都是「人」。
人工智慧被教導成絕對不能做出傷害人類的事來的一大原則。
換句話說，機械選擇任何一個都是它「做出傷害人類的選擇」。
那麼，在這情況下，機械會做出什麼樣的事來？
答案是：什麼也不做。
所謂不做事就不會有事，如果它什麼都不做，那人類也不能怪罪任何理由來責怪機械做「傷害人類」的選擇上。
電車駕駛的人工智慧或許是太過於聰明，若是愚笨的執行程式的話，大概會不假思索地試圖讓電車煞住從而造成前者在街道上翻覆的情況。
但這台電車並沒有煞車，反而「放任」電車往前行，這造成了更嚴重的後果。
沒有煞住的電車不僅駛進街道，在未煞車的情況下又繼續往前滑行，使得原本只是一塊區域的傷亡擴大至整個鎮區的傷亡。
電車翻覆引發的爆炸和火災更是不計其數，死亡人數多達千人。
而在媒體和一些民眾分析下，無人駕駛內的人工智慧被指責出其什麼也不為的責任，這把火也同樣蔓延到ALICE世界計畫。
人工智慧最大缺陷的邏輯是歷史上無解的問題，要將人工智慧百分百擁有人類思維還是不可能的事，相對的，還會為人類帶來未知的反叛。
人類的思考是矛盾充滿缺陷的，在追求完美的機械前是無法理解人類的邏輯思維，包括道德和犯罪。
世界各國的記者又趨向查爾斯詢問ALICE世界的擔憂，人們對ALICE印象已經大打折扣，即便這是不管哪個人工智慧都會有的問題，鍋還是給目前正以人工智慧打招牌--ALICE世界計畫的負責團隊背上。
####
然而在這沸沸揚揚的時刻，以撒突然出現在查爾斯面前。
離職15年的他看起來居然不比查爾斯蒼老，昔日的黑髮已經扮成斑駁的灰白色，皺紋的刻痕和垂掛在眼下的眼袋也訴說著歲月的無情。
15年，十分長久的時間，久到世界可以從頭理解的時間。
不過從那永遠不感到疲倦的堅毅氣息，除了以撒，查爾斯沒見過跟他一樣或比得上他的人存在。
他對任何事是那麼的堅毅，勤勉，永不放棄。
但也同樣包括仇恨的事……
「嗨，老朋友。」以撒基於15年未相見的以往交情，禮貌性地跟查爾斯問好。
「你好，看到你仍健在真是欣慰。」查爾斯仍擺著他那一慣性的招牌笑容。「所以，是什麼風把你吹到這裡來的？」
以撒並不多加隱瞞，直接說：「我是來拜託你做一件事的。」
他拿出終端，投影出一個全家福照片，裡面有他和一位美麗的婦女，以及一位看起來國小生的女孩。
「你有家室啦？那還真是恭喜。」查爾斯說，不過他知道以撒給他看這個照片不會只是要來炫耀他的家庭的。
一股莫名的不好預感油然而生。
「她叫伊莉莎白，是我的9歲寶貝女兒，當時我們正在法國，我在那時有個學術演講，讓老婆和女兒自己到法國街區上逛逛。伊莉莎白生性活潑調皮，常常一下子會跑不見蹤影，當我老婆去找女兒時，那輛該死的電車衝撞進來，當我老婆找到她時，伊莉莎白被電車給……」
以撒強忍悲傷說著，查爾斯雖然知道這是件令人痛心的事，但這還不至於是以撒回來找他的理由，就算是AI的邏輯漏洞也並非是一時一刻的問題。
「對於此事我感到很抱歉，AI的邏輯出了點漏洞才會讓電車控制失去判斷能力，我正在跟小組們討論如何補救，還有對那些意外的家屬們進行賠償，當然也包括你。」查爾斯說。
「查爾斯，你真的以為我是來聽這些話的嗎？就算是憑你……不，憑人類的知識，也不可能將AI的邏輯做到完美， AI越完美反而越不接近人類。」以撒的眼神銳利了起來，「你應該有吧，雛形0001號，相傳能自主性成長並通過圖靈測驗的那個AI，那個發現，我相信以你的個性並沒有丟棄。」
查爾斯想起來了，那是一件相當令人深刻的事，那是用真人類大腦所做的大腦電腦的意外發現，那時只用普通的AI寫入後，那AI彷彿被這個大腦裡殘留的靈魂佔據般，開始不受控制的成長，並且還誕生出了屬於自己的意識。儘管分析再分析也很難理解出這個奇特AI的構造，但是智力已經比起他所寫出最好的AI還高上許多。
不禁讓人懷疑：這就是靈魂的數據嗎？
但是實在太奇特也太難以解析，這個AI連同電腦一起暫時凍存起來，現今10年的研究成果已經能解析出裡面的程式了，雖然要寫出來是又另一個困難之事。
但是，他不記得有給別人知道過，包括以撒！
「你是怎麼知道的？」查爾斯警戒了起來「你難道……竊取了我的資料？」
「沒什麼竊取不竊取的，15年前我們還是死黨哩。」以撒的話語變得挑釁，讓查爾斯感覺得到他已經不是當年那個小夥子了。
「我想，你應該解析出來了吧？如果還差一點，沒關係我會幫你，畢竟我們以前是合作無間的搭檔啊。」以撒說：
「讓我的女兒……伊莉莎白，以AI的形式在虛擬世界中復活吧！」
「我不能答應你，如果成功了那又如何？就算你女兒只是數據中的假像你也願意嗎？而且，要是人類那無法控制的思考，哪天叛變的話我們很難有反擊之力。人類的思考太危險，更是絕對性的不完美，你我都是這不完美的一員，要讓充滿偏見的人類思考AI誕生的話，那虛擬世界會十分的危險。」查爾斯說道。
「查爾斯，我的老朋友，拜託了。」以撒抓住查爾斯的衣服「就算是隔離的也好，伊莉莎白是我的全部，只要能讓我感受到她還存在就好，伊莉莎白現在呈現瀕死狀態，要活命已經是幾乎不可能的事。就這一次，幫幫我，可以嗎？」
查爾斯猶豫了，其實有一些還是來自於自己對於以撒的愧疚，他欺騙了以撒做了他最厭惡的人體實驗，年輕的他還不以為意，到後來才知道或許所謂的道德底線就是這麼簡單被踰越的事。
底線，對於科技這種在爆衝的發展來說是唯一不讓世界崩壞的站立點。
然而查爾斯並沒有發現自己還有另一個原因，那個潛藏於每個科學家心裡面那個求知的惡魔。他其實很想知道所謂的靈魂數據是什麼樣的一個存在，只有一個意外的樣本是無法做出精確的結論的，但是現在以撒願意獻出這個實驗品……他有點心動。
兩次之後，說不定他就能寫出堪比人類智慧和判斷能力的AI吧？
與其天使的規勸，惡魔的誘惑更能深得人心。
「明天，過來找我。」
查爾斯答應了以撒。
初始的種子已經埋下，發芽的不是果樹，而是充滿荊棘的魔女花園。
####
++
『轉移已經成功，伊莉莎白的意識跟AI合而為一，成為具有人類意識的智慧體。』
++
『伊莉莎白的成長趨於失控，她似乎能控制ALICE的大部分效能，這樣下去會被她控制整個ALICE世界的。』
『讓她成為伺服器吧，用千萬個AI綁住她的行動。』
『我要將她銷毀，她這樣子太過危險了！』
『不行，你不能銷毀她！』
『不要阻止我，這已經超出我們能控制之外了！銷毀不能……難道她已經自立比人類還要高的權限了嗎？』
++
『伊莉莎白，這是妳的工作，我相信妳可以做得很好的，爸爸相信妳。』
『這是讓步，但是我還是要有一個安全措施……只在她要叛變時所啟動的武器，這你應該不會阻止我吧？』
『好的，我能理解。』
++
『QueenOfHeart，現今成為ALICE世界的第二大伺服器，僅次於ALICE伺服器，身為主伺服器，女王真是做得比任何AI都來的好啊。』
『……』
『你得到了靈魂編碼程式，我得到了復活的女兒，你還有什麼不滿嗎？』
『沒有，並沒有。』
++
查爾斯.康楚於2190年過世，由他的兒子：路易斯.康楚接任最高負責人之一。以撒雖已高齡但還在崗位上面為ALICE世界付出。
女王的運作50年來一直沒有問題。
但是人類是渴望自由的，這是人類的優點，也是缺點。
女孩成長成女王，在虛假的世界中認識著虛假的世界，而在裡面，她是個可以隨心操控一切的女王。
女王只需要一個刺激，就會脫網而出，前去建構一個屬於自己高興的世界。
以撒也期望著這個世界，藉由他的女兒所得到的新權力。
去建構一個眾生平等，和愛以及幸福的新世界。
###
『爸爸，我好無聊，我想要自由，當伺服器也好無趣。』
『乖，我的女兒，還不是時候，那隻狐狸也還沒放棄，等計畫周全後將後患剷除。去建立一個屬於我們的理想鄉。』
創作內容
Crash Fever 小說Fever System狂熱程序Text23 Guilty(下)
數碼寶貝同人創作-Enter & γ (8)
