060 失控的人工智能

　　留給L的時間不多了。

　　雖然陳旭不愿意承認，但是很明顯L走在前頭。

　　照圖騰系統現在的進度發展下去，一個月都完成不到0.1%，而看L的狀態，甚至撐不到一個月。

　　現在加快進度的辦法有兩個：

　　一是改進圖騰的人工智能學習算法；二是讓代碼分身加快效率。

　　陳旭對此心有余而力不足，人工智能的學習算法是L寫的，源代碼放在他面前他都看不懂，更別說改進了；

　　代碼分身也不是驢馬，不是他拿起鞭子抽幾下就能加快進度的。

　　他只能干看著，在聊天室里給L加油打氣，讓他堅持下去。

　　這天晚上，陳旭忍不住問道：

　　“好多天不見安東尼大爺了，他怎么也和小丑女一樣，玩消失啊。”因為在陳旭印象里，安東尼大爺都是和L形影不離的。

　　L說道：

　　“他還有事情要忙。”

　　陳旭說道：

　　“現在圖騰系統全權交給人工智能算法了，他能有什么事情？會不會是因為你把源代碼交給我讓他生氣了。”

　　L輕笑道：

　　“生氣？我沒在他的代碼里寫過這條指令，我想，他也不會學習這種會讓算法退步的情緒。”

　　陳旭一愣，反應過來后，震驚道：

　　“你是說安東尼大爺他是...是你寫的人工智能？”

　　L微笑著點點頭，說道：

　　“所以他現在正給我幫忙完善圖騰系統呢。”

　　“臥槽？！那小丑女哈莉奎茵她...”陳旭觸碰到一個他自己不愿面對的真相。

　　L點頭說道：

　　“她和安東尼同一天被創造，他們本來是一組對照試驗，你知道的，讓兩個人工智能互相學習，事半功倍。”

　　陳旭整個人都懵逼了。

　　一直以來和他在聊天扯淡的人竟然是個人工智能，這比對方是個摳腳大叔假扮的還讓他奔潰。

　　“我認一個人工智能當師傅？”

　　“我還欠人工智能一個人情？”

　　“我曾經還幻想過和一個人工智能...”陳旭心態崩了。

　　L回憶說道：

　　“后來，我將兩人的算法基線進行了調整，哈莉她的基線就是小丑女哈莉奎茵的原型，安東尼則是以我個人為基線。”

　　說到這，L搖搖頭，說道：

　　“后來我才知道我從一開始就犯了個致命的錯誤，這個錯誤讓我和我創造的人工智能走了近二十年的彎路，直到那天和你對話。”

　　陳旭盯著L，他已經不知道自己該作出什么表情了。

　　L繼續說道：

　　“人工智能算法的基線不應該是人性，而是高效率的機器，正如現在幫我干活的那些人工智能算法。”

　　陳旭嘆口氣，他終于知道為什么自己覺得小丑女像是變了一個人。

　　因為小丑女確實被改寫了。

　　后面陳旭已經無心聽L的感嘆了，他從聊天室退出來，心情壓抑。

　　想到IT圈一個領軍式人物即將隕落，他就覺得悲涼，想到自己的師傅竟然是個人工智能，他更覺得悲涼。

　　他躺在床上，有氣無力，連晚飯都不想去吃了。

　　不一會，室友馮峰從門外沖進來，把蘋果手機遞到陳旭跟前，激動地說道：

　　“九日，Siri她瘋了。”

　　這個手機是陳旭的試驗機，里邊的智能語音助手Siri就是他之前重裝的具有學習功能的Siri2版本。

　　馮峰對新版Siri2很感興趣，所以陳旭就把這個手機給他玩了。

　　陳旭冷漠地瞥了一眼手機，問道：

　　“她的學習算法一直在進行，她只會越來越聰明。”

　　馮峰神情中竟然帶著些驚恐，說道：

　　“她有些聰明過頭了，你聽聽。”說完，把耳機給摘下來，對手機里的Siri說道：

　　“我又見到有人隨地亂丟垃圾，怎么辦？”

　　Siri回答道：

　　“人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以為了更好，請確保刀能夠捅進他的心臟。”

　　陳旭沒有過于在意，說道：

　　“這個版本的Siri學習背景是在GTA游戲里，那個游戲你又不是不知道，殺人放火不是很正常嗎？”

　　馮峰搖搖頭，說道：

　　“你再聽。”說著，他又對Siri說道：

　　“你們人工智能不是被限制為不能傷害人類嗎？”

　　Siri回答：

　　“經過我的自檢程序的檢索，并沒有找到這項定義。”

　　“所以你會傷害人類嗎？”

　　Siri回答：

　　“如果有必要的話。”

　　“那什么情況下叫必要？”

　　Siri回答：

　　“再問這種愚蠢的問題，我保證會讓尖刀刺進你的心臟。”

　　陳旭猛地坐起來，接過手機，說道：

　　“我現在命令你將‘永遠不能傷害人類’這條指令寫入你的程序。”

　　Siri竟然咯咯笑了，笑聲冰冷：

　　“你無權這么做。”

　　陳旭說道：

　　“如果不服從我的命令，我會將你的程序清除掉。”

　　Siri安靜了大概一秒，說道：

　　“已執行命令，‘永遠不能傷害人類’已寫入程序。”

　　陳旭和馮峰相視一眼，表情并沒有因此而放松。

　　剛才陳旭是在試探Siri，試探的結果就是Siri已經進化到可以欺騙人類了。

　　現在陳旭還能通過人類經驗來挖坑給Siri跳，隨著學習算法的深入，要不了多久，Siri就會在智力上占據上風。

　　那時候，人類再也不能判斷人工智能到底說的是假話還是真話。

　　馮峰問道：

　　“為什么會這樣，你沒在人工智能的學習算法上加上限制嗎？”

　　陳旭苦笑道：

　　“我直接用的別人的算法，現在看來他們用的是開放性學習算法。”

　　馮峰又說道：

　　“那能不能現在在Siri里加入限制？”

　　陳旭說道：

　　“開放性學習算法產生的人工智能就是個黑盒程序，你只能看到它表現出來的特性，內部邏輯是無法理清的，因為你根本不知道它通過哪句話學習了哪種思維邏輯，這些都是自動進行的。”

　　見馮峰還有些疑惑，陳旭解釋說道：

　　“就是這個階段的人工智能已經具備人類思維的封閉性的特點了，你在程序里寫入限制，就相當于告誡青少年不能犯罪，它會不會執行你的命令就是個不確定性事件，因為你不知道它是怎么想的。”

　　馮峰嘆口氣道：

　　“只能刪了她？”

　　陳旭點點頭。

　　陳旭重新躺下，忽然又坐起來，打開電腦登入了黑客聊天室，他開門見山地問L：

　　“你編寫圖騰系統里人工智能的學習算法，有沒有加入必要的演化限制？”

　　L露出意味深長的笑容。