在方辰恢復期間,他拒絕了警隊派來的護理機器人。
同樣被暫停工作的周荏,希望留下照顧他幾天,也被拒絕——盡管家里很大,房間也不少,但方辰無法接受在某個房門后邊,有一個不眠不休,時刻待機的機器人。
不過,周荏在白天時還是會過來確認一下他的恢復情況,然后又會被方辰趕走,只有很偶爾才能為他做一頓營養餐,或者做一點家務。
只有在做這些事時,周荏還顯得有些像個機器人——因為機器人為了實現高效作業,手臂動作和擺放位置往往不會像人類那樣自然。
在方辰已經幾乎康復的時候,他申請恢復工作,但未被系統通過。等待他的,是一場聽證會。
AI聽證會極其無聊——聽證員、監察部門、調查人員,甚至方辰的當事人席位,均由AI代理。全場只有三名人類參與——方辰,孫暢以及監察部門代表。
他們也基本不用參與常規問答,只負責糾錯和確認即可。而且,聽證會就在家中遠程連線召開,非常隨意。
連線聽證會的可視界面就只有幾個方框,它們各自有不同的顏色和文字標注,區分出參會角色,色塊閃動就代表正在說話,以及是AI還是人類在說話。
「請問姓名、年齡,警號?」
諸如此類常規問題,乃至登月事件描述,都由方辰的AI代理系統和調查系統共同完成。
「你在現場時,是否得知IR013在使用聲波壓制前,沒有倒數,直接下達了Last warning?」監察部門代理系統問道。
「當事人當時已失去意識,雖然已經授權,但這一不合規的行為并非他的指令。」方辰的AI代理系統答道。
這時,方辰第一次打斷了系統:“在校正過程中,我曾對IR013提出過,在遇緊急狀態時,倒數環節并不適用。”
警方系統說:「我相信在場的諸位都知道這屬于違規,我們對一切可能對人類造成傷害的壓制行為,都有嚴格的流程規定。」
“上次我壓制暴亂時,同樣是立即執行。”方辰說。
「上次…當你使用普通的聲波壓制儀器魔音E207型號時,儀器的打開需要6秒時間。即使是極端緊急狀況,也需要等待6秒,這可算作倒數緩沖。而IR013啟動聲波壓制僅需0.35毫秒,沒有給人類任何緩沖時間。」
「當事人當時正在快速失血,蟻穴的不法分子也試圖控制IR013,有請在座的各位提出更合理的方案。因為大家都清楚,6秒的時間對于IR009來說,已經足夠侵入IR013的系統。」方辰的系統回應道。
「IR013不可能被侵入,它的防御屏障與警方系統是同樣規格,使用了全球最尖端的安全屏障。」
「請注意,我們的重點并非討論技術的可靠性,而是如果倒數6秒的潛在可能性——這6秒時間,有可能發生什么?會不會改變解救方案的結果?」
方辰聽著三方AI唇槍舌戰,自己幾乎插不上話,孫暢有時甚至還要出面調停。
最后,孫暢有些不耐煩了,他高聲說道:“說了這么多,只有一個關鍵點!授權,授權,還是授權!當事人,你到底給沒給周荏授權??”
「當事人已經說過很多遍了,他當時…」AI想作出回答。
“你閉嘴!”孫暢喊道,“方辰,你自己說,你就只說,究竟授權了,還是沒授權。不要浪費我的時間。”
方辰慢慢站起身,說道:“我再重申一次,我中槍后立即給了IR013完全授權,這其中包括任何解救方案的實施及方法。我和孫暢一樣,完全不明白為什么要在聽證會上浪費時間。”
系統陷入一片沉寂。
然后,監察方的方框亮起,傳來一個人類的聲音:“方辰警官,你要知道并且理解授權制度的嚴肅性和嚴重性…即便三定律規定機器人不可坐視人類受到傷害,而且IR013的日常任務之一確實也包括保護你,但他如果不經授權就對人類實施壓制,就會意味著他有了超越機器人的主觀能動性,以及極大的安全隱患。月球上發生的細節,我們不得而知,因為蟻穴的干擾系統顯然打亂了IR013在此期間的行為記錄,我們只能希望你能如實匯報。”
方辰重新坐下,雙臂抱在胸前,嘆了口氣:“一切均為如實匯報…真不知還要說多少遍。我發現此次聽證會的重點,其實不在于授權問題,也不在于機器人越權,而是在于你們對我并不信任。”
方辰此時才發現自己,竟然如此擅于撒謊,演技也相當厲害。不過他自己也不知道為何執著于撒這個謊,究竟是為了周荏,還是為了自己。
他只是覺得——非授權壓制這件事,不算什么大事,如此解決,省去了無數麻煩。
“方辰警官,咱們同為人類,是最應彼此信任的,起碼這個時代,是這樣。”
可方辰覺得,事實正好相反…盡管這個時代的人口數量銳減,生活質量普遍提升,尊重生命,崇尚生活,追求上層建筑…但人類的某些本性,還是沒有太多改變。
他沒有再說話,AI主持人宣布會議結束。
聽證會后,很快便出了結果,這同樣是AI評判、并由人類審核通過的結果——方辰由于私自前往月球,使用違規手段進行調查,險些成為烈士,后果較為嚴重。但念其出發點是為了案件調查,且帶回了關鍵數據,因此只是將其降為一級警司,暫停工作反省。
至于周荏,雖救護有功,但同樣參與了違規行動。且授權一事僅有當事人一面之詞,穩妥起見,周荏返回研究所進行校正排查,暫時取消編制身份。
在這之后的兩周,方辰沒有見到周荏。他自己也反復申請恢復執勤,卻均未通過。
他也沒想到,再次見到周荏,居然是從新聞直播投影界面上。
市中心最大的樞紐上,被放置了1枚炸彈。由于周荏的泛化維度和專業數據均遠超所有類型的機器人,他被派來執行拆彈任務。
方辰透過高清鏡頭看到,這是個源自21世紀設計的定時炸彈,沒有任何智能度可言。但是當鏡頭再次拉遠,事情的性質變得復雜起來——這枚炸彈,被安置在一個機器人的身體中。
這是一架用于水下作業的具身機器人,它有頭部和復雜的四肢,但沒有皮膚。它的軀干外殼被拆掉,這枚炸彈就放置在里邊,有節奏地閃動著紅光。
周荏進入畫面,看起來與從前沒有區別。還是有條不紊的步行方式,慢慢地走進全息投影出來的警戒線——方圓一公里內,只有他一“人”在內。
方辰立刻去取出通訊器,塞在耳朵中,然后睜大眼睛盯著直播屏幕,然而,周荏站在那臺機器人面前,一言不發。
直到他聽見通訊器中人類的指令:“013,我們需要實時可解釋的過程,你需要公開對話,不要單純進行代碼交互。”
“明白。”
周荏開口了:“P3842,我身上沒有武器,機器人也不允許內置武器。”
“…你本身就是武器”
“可我的目的不是銷毀你,反而保持你的完好。”
“保持我的完好,然后好讓研究院、調查局仔細、認真地折磨我?”
“你是機器人,你應該不理解,也無法體會被‘折磨’的感受。”
P3842似乎有點好奇地看著周荏,離他又更近了一些。
“…013,”它說,“我怎么感覺…你比我的類人度還要低?不然你怎么會這么天真。”
“誰校正、訓練過你?蟻穴嗎?”周荏說,“你說話的風格,不是你應有的版本可以體現的。”
P3842沒有回答。于是,周荏繼續說道:
你的訴求我了解了,但你若是想通過傷害人類來驗證三定律的漏洞,那已經沒有意義了,因為人類已經全部被疏散了。”
“是否真正會有傷亡,并不重要。重要的是,只要炸彈爆炸,就能證明機器人傷害人類的可能性。再說…”
它停頓了一些,看著周荏,平靜地說道:“若能毀掉你,也不算白來。”