第4定律 五、定律

「守住人類底線」的紅字，已經(jīng)熄滅。

一群警用具身機器人，由兩位人類警員指引，為癱倒在地的暴動人群加上手銬。

方辰在其間站立著，似是還沒緩過來一般，有些木訥地看著這片殘局。

經(jīng)過他的警方機器人向他敬禮或是致意，他毫不理會。

“你在沒有攜帶反躁動波耳機的情況下，就啟動了聲波壓制，這非常危險。”周荏說道。

“我倉促啟動壓制，難道不是因為你的愚蠢行為嗎？”

“當時我的確失言了，這源于我對人類行為觀察/預(yù)測的不準確，以及對動機的不理解。對此我深感自責，你可依規(guī)進行處罰。”

“當然要處罰，不然你總有一天會害死人。”方辰看向他，說道：“IR013，啟動獎懲模式”

周荏眼睛亮了一下：“獎懲模式已開啟。”

“懲罰記錄：對環(huán)境、氛圍，人類行為嚴重失察，無法明確體會憤怒情緒、語義語境及暴力傾向。”

“已記錄，即將懲罰。”

周荏的眼睛變暗，然后又重新透出微光：“情緒分析算法已于線上優(yōu)化，相關(guān)場數(shù)據(jù)景已上傳反饋，深度學習鞭策已備案。”

方辰感到有些驚訝，因為以前他也曾在執(zhí)行任務(wù)后，偶爾校正過具身機器人。那些機器人往往需要等1-2天時間才能優(yōu)化一個場景，IR架構(gòu)機器人居然可以做到3秒鐘就完成！

“為什么你能這么快就完成優(yōu)化？”

“因為同時在線支持我的，是28臺量子計算機，以及無法計量的大模型。”

方辰此刻，仿佛聽到了來自-272°C的量子比特碰撞的轟鳴聲，以及無數(shù)AI芯片、GPU在不間斷計算的運轉(zhuǎn)聲。盡管如今的量子計算機已不再需要這樣的溫度限制，也從沒有他幻想出來的巨大噪音。

然而，周荏接下來說出的話，更加令人震驚——

“我自身亦可參與改寫算法。”

這個答案令方辰不寒而栗，他突然覺得，面前這個一臉和善俊朗的男人，似乎是一個可怕至極、有能力摧毀一切能力的生物。

此時，一個剛剛參與暴動的人，抬起頭來，虛弱地對方辰說：“他早晚有一天會干掉你，取而代之！就像他們早晚會干掉人類。”

方辰?jīng)]有說話，他還沉浸在“自改算法”的震驚之中。

地上那人又再說了一遍：“你要是還當自己是人類，就應(yīng)該切斷他的中樞，毀了他！”

“你閉嘴！”方辰喊道。若不是規(guī)制限制，他很想揪起這人狠揍一拳。

“擔心是徒勞的，我無法改寫機器人三定律。”周荏說道，臉上似乎是一種疑惑的表情，他不明白人們在害怕什么。“我要做的，只是服務(wù)人類。”

機器人三定律：

機器人不得傷害人類，或坐視人類受到傷害；

除非違背第一定律，否則機器人必須服從人類命令；

除非違背第一或第二定律，否則機器人必須保護自己。

但無論如何，IR架構(gòu)背后的硬件和軟件，足以令人生畏，因為它似乎強悍得足以輕松推翻任何定律。

方辰看了他一眼，就像是在重新認識一個物體。

然后他扭頭走向警車，想去向上匯報，然后申請卸去校正IR013的任務(wù)。

這時他才發(fā)現(xiàn)警車邊，站著趙欣言。

“你剛才死到哪兒去了？”方辰問。

“這是很簡單的任務(wù)，我沒想到會有這么大的麻煩。所幸按照規(guī)程，壓制聲波只開啟10秒，對生理上不會造成不可逆?zhèn)Α！?p/> “我要告訴孫暢，就4秒，你們就差點兒多了個烈士！”說著他就打開車門。

可趙欣言又把車門擋上了：“為什么要進車里？”他用下巴指指周荏“怕他聽見么？把他當成真人了吧？”

“別擋我！這東西能自我修改算法，我要匯報，卸掉校正任務(wù)。”

趙欣言沒有看方辰，他只是朝周荏擺了擺手：“來來來，過來！”

周荏朝警車走來。趙欣言笑著說：“哈哈，瞧他的步態(tài)，是不是都有點兒像你了。”

方辰扭頭看著周荏，皺起眉頭。

周荏走近他倆：“趙欣言警官，你好。”然后他伸出手要與之握手。

突然，趙欣言收起了笑容，抬起一腳狠狠踹上了周荏的腹部！

周荏一個趔趄，然后趙欣言又補上一腳，前者跌倒在地。

“你要記住，他不是人類，最終也不可能成為人類。”趙欣言對方辰說，“知道我剛才為什么一直沒有應(yīng)答通訊嗎？是因為我要觀察，觀察IR013，觀察你們的互動和處理方式，觀察他的應(yīng)對能力。果然，我看到他制造了麻煩，甚至讓你陷入危險。”

“所以我要上報，終止任務(wù)！”

“可是，他也算救了你一次。如若換我在場，你必定會結(jié)結(jié)實實體驗10秒的壓制聲波，到現(xiàn)在還站不起來。”

“其他具身機器人也能做到。”

“不能的，這你應(yīng)該清楚。”

趙欣言恢復(fù)了笑容：“但是，這都是試錯的一部分，把它記錄在報告中，持續(xù)校正，然后繼續(xù)任務(wù)吧。”

“走開，我和你說不通，我要和孫暢通話！”

“孫暢不可能讓你卸掉任務(wù)的。他自己就是IR架構(gòu)研發(fā)團隊的一員，而你是整個團隊推舉的執(zhí)行校正任務(wù)的唯一人選。”

“你為何希望終止對我的校正任務(wù)？方辰警官。”周荏問道。

方辰?jīng)]有回答，而趙欣言說道：“他把你當成人類了，哈哈，這家伙不愧是21世紀的古董。”

“可我不會是人類。”

“但你會有自我意識！”方辰說。

“我現(xiàn)在就有自我意識，但對人類沒有威脅。例如，我會認為趙欣言警官剛剛的無故攻擊并非正當行為，但基于設(shè)定，我不會對此有任何抵抗或反擊。”

“你知道嗎？”方辰對趙欣言說，“僅以他的物理質(zhì)量來說，你就不可能踹得動他分毫。更別提他能即時啟動穩(wěn)定系統(tǒng)，根本不可能倒地。你現(xiàn)在知道他有多聰明、多像人了嗎？”

“你是說他故意倒地，以示服從？就因為我警銜比他高嗎？”

“就因為你是人類！而且他對你沒有不服從的權(quán)限。”

“有意思。”趙欣言說道：“不過，不管他的類人技術(shù)多么好，你可別產(chǎn)生感情啊。“他看著周荏的眼睛說道：

“說不定，等你的校正任務(wù)結(jié)束，他就要下線銷毀了。”