五、定律
「守住人類底線」的紅字，已經熄滅。
一群警用具身機器人，由兩位人類警員指引，為癱倒在地的暴動人群加上手銬。
方辰在其間站立著，似是還沒緩過來一般，有些木訥地看著這片殘局。
經過他的警方機器人向他敬禮或是致意，他毫不理會。
“你在沒有攜帶反躁動波耳機的情況下，就啟動了聲波壓制，這非常危險。”周荏說道。
“我倉促啟動壓制，難道不是因為你的愚蠢行為嗎？”
“當時我的確失言了，這源于我對人類行為觀察/預測的不準確，以及對動機的不理解。對此我深感自責，你可依規進行處罰。”
“當然要處罰，不然你總有一天會害死人。”方辰看向他，說道：“IR013，啟動獎懲模式”
周荏眼睛亮了一下：“獎懲模式已開啟。”
“懲罰記錄：對環境、氛圍，人類行為嚴重失察，無法明確體會憤怒情緒、語義語境及暴力傾向。”
“已記錄，即將懲罰。”
周荏的眼睛變暗，然后又重新透出微光：“情緒分析算法已于線上優化，相關場數據景已上傳反饋，深度學習鞭策已備案。”
方辰感到有些驚訝，因為以前他也曾在執行任務后，偶爾校正過具身機器人。那些機器人往往需要等1-2天時間才能優化一個場景，IR架構機器人居然可以做到3秒鐘就完成！
“為什么你能這么快就完成優化？”
“因為同時在線支持我的，是28臺量子計算機，以及無法計量的大模型。”
方辰此刻，仿佛聽到了來自-272°C的量子比特碰撞的轟鳴聲，以及無數AI芯片、GPU在不間斷計算的運轉聲。盡管如今的量子計算機已不再需要這樣的溫度限制，也從沒有他幻想出來的巨大噪音。
然而，周荏接下來說出的話，更加令人震驚——
“我自身亦可參與改寫算法。”
這個答案令方辰不寒而栗，他突然覺得，面前這個一臉和善俊朗的男人，似乎是一個可怕至極、有能力摧毀一切能力的生物。
此時，一個剛剛參與暴動的人，抬起頭來，虛弱地對方辰說：“他早晚有一天會干掉你，取而代之！就像他們早晚會干掉人類。”
方辰沒有說話，他還沉浸在“自改算法”的震驚之中。
地上那人又再說了一遍：“你要是還當自己是人類，就應該切斷他的中樞，毀了他！”
“你閉嘴！”方辰喊道。若不是規制限制，他很想揪起這人狠揍一拳。
“擔心是徒勞的，我無法改寫機器人三定律。”周荏說道，臉上似乎是一種疑惑的表情，他不明白人們在害怕什么。“我要做的，只是服務人類。”
機器人三定律：
機器人不得傷害人類，或坐視人類受到傷害；
除非違背第一定律，否則機器人必須服從人類命令；
除非違背第一或第二定律，否則機器人必須保護自己。
但無論如何，IR架構背后的硬件和軟件，足以令人生畏，因為它似乎強悍得足以輕松推翻任何定律。
方辰看了他一眼，就像是在重新認識一個物體。
然后他扭頭走向警車，想去向上匯報，然后申請卸去校正IR013的任務。
這時他才發現警車邊，站著趙欣言。
“你剛才死到哪兒去了？”方辰問。
“這是很簡單的任務，我沒想到會有這么大的麻煩。所幸按照規程，壓制聲波只開啟10秒，對生理上不會造成不可逆傷害。”
“我要告訴孫暢，就4秒，你們就差點兒多了個烈士！”說著他就打開車門。
可趙欣言又把車門擋上了：“為什么要進車里？”他用下巴指指周荏“怕他聽見么？把他當成真人了吧？”
“別擋我！這東西能自我修改算法，我要匯報，卸掉校正任務。”
趙欣言沒有看方辰，他只是朝周荏擺了擺手：“來來來，過來！”
周荏朝警車走來。趙欣言笑著說：“哈哈，瞧他的步態，是不是都有點兒像你了。”
方辰扭頭看著周荏，皺起眉頭。
周荏走近他倆：“趙欣言警官，你好。”然后他伸出手要與之握手。
突然，趙欣言收起了笑容，抬起一腳狠狠踹上了周荏的腹部！
周荏一個趔趄，然后趙欣言又補上一腳，前者跌倒在地。
“你要記住，他不是人類，最終也不可能成為人類。”趙欣言對方辰說，“知道我剛才為什么一直沒有應答通訊嗎？是因為我要觀察，觀察IR013，觀察你們的互動和處理方式，觀察他的應對能力。果然，我看到他制造了麻煩，甚至讓你陷入危險。”
“所以我要上報，終止任務！”
“可是，他也算救了你一次。如若換我在場，你必定會結結實實體驗10秒的壓制聲波，到現在還站不起來。”
“其他具身機器人也能做到。”
“不能的，這你應該清楚。”
趙欣言恢復了笑容：“但是，這都是試錯的一部分，把它記錄在報告中，持續校正，然后繼續任務吧。”
“走開，我和你說不通，我要和孫暢通話！”
“孫暢不可能讓你卸掉任務的。他自己就是IR架構研發團隊的一員，而你是整個團隊推舉的執行校正任務的唯一人選。”
“你為何希望終止對我的校正任務？方辰警官。”周荏問道。
方辰沒有回答，而趙欣言說道：“他把你當成人類了，哈哈，這家伙不愧是21世紀的古董。”
“可我不會是人類。”
“但你會有自我意識！”方辰說。
“我現在就有自我意識，但對人類沒有威脅。例如，我會認為趙欣言警官剛剛的無故攻擊并非正當行為，但基于設定，我不會對此有任何抵抗或反擊。”
“你知道嗎？”方辰對趙欣言說，“僅以他的物理質量來說，你就不可能踹得動他分毫。更別提他能即時啟動穩定系統，根本不可能倒地。你現在知道他有多聰明、多像人了嗎？”
“你是說他故意倒地，以示服從？就因為我警銜比他高嗎？”
“就因為你是人類！而且他對你沒有不服從的權限。”
“有意思。”趙欣言說道：“不過，不管他的類人技術多么好，你可別產生感情啊。“他看著周荏的眼睛說道：
“說不定，等你的校正任務結束，他就要下線銷毀了。”