第4定律 三十六、自己

“你為什么沒(méi)有告訴孫暢和歐陽(yáng)熙，我一度情緒失控，對(duì)你吼叫？”

“……他們通過(guò)數(shù)據(jù)分析就能發(fā)現(xiàn)，不需要我匯報(bào)。”

“不，他們不會(huì)發(fā)現(xiàn)，因?yàn)槲視?huì)篡改數(shù)據(jù)。”

方辰身體輕微顫動(dòng)了一下，醒了過(guò)來(lái)。

即便是在全方位提升睡眠質(zhì)量的睡眠艙內(nèi)，他還是會(huì)不停地做夢(mèng)。

他坐起身，深呼吸了兩次，按了按眼睛。

有時(shí)他也會(huì)想要妥協(xié)，給自己裝入腦機(jī)接口，從而改善精神狀態(tài)，甚至自主左右情緒。

但是有得就有失，一旦裝入腦機(jī)接口，自己便不再是自己，腦中的思緒、知識(shí)數(shù)據(jù)，以及記憶，都將淪為共享信息。哪怕每個(gè)人的信息都有嚴(yán)格加密，但職權(quán)部門(mén)也有權(quán)調(diào)取查看。

其他“授權(quán)”調(diào)取腦機(jī)數(shù)據(jù)的商業(yè)用途，本質(zhì)上和現(xiàn)在的各類隱私協(xié)議并無(wú)二致。

走出睡眠艙時(shí)，周荏正坐在外邊，搞得方辰嚇了一跳。

“你在這兒干嘛？”

“我接到歐陽(yáng)教授的命令，即日起，要全天候保證你的安全。”

“這里是保密基地，還能不夠安全？”

“可對(duì)方是沈偲云。”

“他的學(xué)術(shù)造詣連我爸都沒(méi)比上，現(xiàn)在又不敢研發(fā)在線設(shè)備，他能搞啥花樣出來(lái)？”

“可他能在屏蔽通信的空間內(nèi)，制作以假亂真的全息投影，并使用致命武器。”

“呵呵。”方辰用冷笑來(lái)掩飾自己的尷尬——他還在為沒(méi)能辨別出那是投影而慚愧，總感覺(jué)當(dāng)時(shí)的人們都在看他笑話。

周荏居然察覺(jué)到了方辰此時(shí)的思緒，他說(shuō)：“當(dāng)時(shí)那樣逼真的投影效果，除非具備生物探測(cè)功能，否則一般人都是無(wú)法辨別真?zhèn)蔚摹！?p/> “沒(méi)必要安慰我……你倒是說(shuō)說(shuō)，你能推測(cè)出沈偲云會(huì)把我怎么樣嗎？”方辰問(wèn)道。

周荏眼中透出柔和的藍(lán)光，他看著方辰說(shuō)：

“你會(huì)死。”

“死得痛快嗎？”

“按照他的一貫手法推測(cè)，應(yīng)該近似于一槍斃命。”

“什么時(shí)間？”

周荏站起來(lái)說(shuō)，“不遠(yuǎn)了。雖然他很重視你，但事到如今也應(yīng)該明白你是不會(huì)歸順的，想必會(huì)盡快除掉你。”

“是么。”方辰一邊穿上警服，一邊笑了起來(lái)：“可老子現(xiàn)在不想死了。”

“我能大概能知道原因。”

“知道也不用說(shuō)出來(lái)，你們硅基生物都很喜歡抖機(jī)靈。”

“對(duì)不起”

方辰不知道的是，周荏推算出自己會(huì)先他一步“死”去。

方辰打算去吃個(gè)早餐，周荏寸步不離地跟著他。

他很無(wú)奈地說(shuō)：“煩死了！離我遠(yuǎn)一點(diǎn)。”

“可是歐陽(yáng)……”

“她是軍方的人！你是警方的人啊！你有什么必要聽(tīng)她的命令呢？”方辰加快了腳步，想要甩開(kāi)周荏。

“她是創(chuàng)造IR平臺(tái)的關(guān)鍵人物。”周荏也隨之加快腳步。

“那明明她更值得保護(hù)啊！！你老跟著我干嘛？”

“抱歉，我需要按照系統(tǒng)設(shè)置的層級(jí)認(rèn)知來(lái)服從命令。”

方辰突然止步，轉(zhuǎn)身面向周荏，后者若不是能夠強(qiáng)制減少慣性，一定會(huì)撞上他。

“是嗎？我是人類，且我的警銜比你高，你也會(huì)服從我對(duì)么？”

“是的。”

“那好，你試試打我。”方辰說(shuō)著，指了指自己的臉：“朝這兒，狠狠打。”

周荏顯然愣住了，他張了張嘴，卻沒(méi)發(fā)出聲音。但是很快，他的體內(nèi)傳出了生硬的系統(tǒng)音——“Deny.”（否決）

“Why？”方辰問(wèn)道。

“It’s not a logical command.（該指令不具備邏輯性）”仍然是系統(tǒng)音——周荏似乎死機(jī)了一般愣在那里，任由原始系統(tǒng)進(jìn)行冷冰冰的駁回解釋。

在機(jī)器人的規(guī)則中，從來(lái)都充滿了矛盾。就算是三定律，也存在這樣的矛盾——不得傷害人類，又不得坐視人類被傷害。

但在算法強(qiáng)硬框架的禁錮下，即便機(jī)器人曾數(shù)次遇到人類互相傷害的案例，也沒(méi)有產(chǎn)生任何機(jī)器人造成的人類受害者。

“這條指令有高度的不合理性，也不存在因果邏輯，所以我的系統(tǒng)選擇拒絕。”周荏終于開(kāi)口了。

方辰面露嘲諷的神情，他拍了拍周荏的肩膀：“如何？你的286套冗余系統(tǒng)呢？怎么連物理系統(tǒng)反饋音都出來(lái)了？看來(lái)，你還是什么都沒(méi)和我學(xué)到。”

“我的系統(tǒng)否認(rèn)了指令邏輯，但是我自己，單純是不想對(duì)你造成傷害。”

此話一出，輪到方辰愣在原地。

他看著周荏泛著幽光的眼睛，想起已經(jīng)幾度下意識(shí)地將他當(dāng)作了人類。

他也意識(shí)到，這樣的周荏，距離被銷毀已經(jīng)不遠(yuǎn)了，因?yàn)樗热祟惖哪芰?qiáng)出太多。

自己為何一直有意無(wú)意地在幫助這個(gè)機(jī)器人？不管是隱瞞事實(shí)也好，對(duì)他有利的校正也好，在混亂場(chǎng)面中毫無(wú)意義的保護(hù)也好……他已經(jīng)無(wú)法否認(rèn)，自己不愿意周荏走向被銷毀的結(jié)局。

為什么？為什么……

就因?yàn)樗麕锥染攘俗约海恳驗(yàn)樗莵?lái)自父親的禮物？因?yàn)樗亲钔昝赖腁I與物理世界結(jié)合的產(chǎn)物？還是因?yàn)椋窃谶@個(gè)時(shí)代唯一擅長(zhǎng)與自己溝通的人？

不重要，都不重要了……他既已經(jīng)喚起了周荏的“人性”，就希望這份人性的火種不要再被磨滅。

許久，他壓低聲音說(shuō)道：“‘自己’這個(gè)詞，不要再對(duì)任何人提起！”

“對(duì)不起，我失言了。”

“你能學(xué)會(huì)保護(hù)任何人，可就是不懂得保護(hù)自己。”

此刻的方辰，突然提出了一個(gè)問(wèn)題，這是一個(gè)最最詭異的想法：“有沒(méi)有過(guò)，在人類腦中植入機(jī)器人數(shù)據(jù)的先例？”他問(wèn)道。

“沒(méi)有，這是有悖于倫理的最典型案例。人類的數(shù)據(jù)尚且無(wú)法植入機(jī)器人系統(tǒng)，更何況反過(guò)來(lái)。”

“如果移植的話，技術(shù)上可行嗎？”

“以目前的技術(shù)來(lái)說(shuō)，可行性為0，因?yàn)槿四X是無(wú)法兼容這數(shù)億PB的數(shù)據(jù)的，會(huì)導(dǎo)致過(guò)載崩潰。”

“我一直以為人腦要優(yōu)于機(jī)器系統(tǒng)無(wú)數(shù)倍。”

“從前確實(shí)如此，直到AI的能力與人類相當(dāng)，便開(kāi)始飛速地超越人類。如今，對(duì)比起AI系統(tǒng)，人類的能力確實(shí)顯得非常渺小。‘三定律’就是維系平衡狀態(tài)的關(guān)鍵支柱。”

方辰嘆了口氣，這唯一可能說(shuō)服他植入腦機(jī)的理由，也完全不成立。

“我爸之前有沒(méi)有想過(guò)，他的成功會(huì)導(dǎo)向如此可怕的世界？”他問(wèn)。

“任何事都有兩面性，在絕大多數(shù)人的眼里，這是個(gè)完美的世界，也擁有最為利己的價(jià)值觀……不過(guò)，或許方教授也想到了其中的隱患，才會(huì)讓你來(lái)到了這里。”

“呵呵，這也是無(wú)法成立的假設(shè)。”

這時(shí)，周荏突然沉下聲音，說(shuō)道：“IR009來(lái)了。”

“什么？”

“她就在附近，她給我發(fā)了信息。”

“什么信息？？”

“她殺了趙欣言警官，還有黃立遠(yuǎn)院士。”

此刻，利澗基地突然變得嘈雜起來(lái)。