第4定律 四十一、終止

“失控，不正是你們想要的嗎？”方辰說(shuō)。

“何以見(jiàn)得？”歐陽(yáng)問(wèn)，

方辰走到009化成的黑色灰燼跟前，感受著揮發(fā)出來(lái)的余溫。

“你讓趙欣言成為了試驗(yàn)的一部分吧？和009一樣。”

“我們是不可能讓人類成為試驗(yàn)品的。”

“是啊，這個(gè)時(shí)代不可能，但在我們那個(gè)年代，人類早早就被植入各類腦機(jī)接口進(jìn)行使用，一開(kāi)始是癱瘓病人，盲人，抑郁癥患者，后來(lái)就開(kāi)始有了正常人自愿接受試驗(yàn)。再后來(lái)，每個(gè)人，都成為了試驗(yàn)品。他們與AI智能體交互，獻(xiàn)上自己的數(shù)據(jù)、隱私和知識(shí)……到了現(xiàn)在，其實(shí)是變本加厲，全人類，都只是AI的試驗(yàn)品。”

歐陽(yáng)笑了笑：“我理解你的消極說(shuō)法，但是你所說(shuō)的人類付出的數(shù)據(jù)，只能算是施予巨大利益和便利的、一點(diǎn)兒微不足道的養(yǎng)料。”

“難道趙欣言和黃立遠(yuǎn)的性命，也只是一點(diǎn)兒微不足道的養(yǎng)料？”

歐陽(yáng)沉默了一會(huì)兒，然后突然呼喚這個(gè)基地的AI中控系統(tǒng)：“Horizon，篩選無(wú)關(guān)人員。”

“收到。”一個(gè)AI女聲應(yīng)答道。

馬上，在場(chǎng)的每個(gè)人身上都被投射上了藍(lán)色或紅色的光影——被籠罩紅光的人顯然就是無(wú)關(guān)人員，他們都紛紛自覺(jué)離開(kāi)，進(jìn)入了場(chǎng)外的封閉空間。

“說(shuō)是‘無(wú)關(guān)人員’，其實(shí)就是AI通過(guò)性格分析，剔除了無(wú)法保守秘密的人。”歐陽(yáng)笑著解釋道。

“您確定要告訴他們嗎？”孫暢問(wèn)歐陽(yáng)。

“你看，方辰警官雖然自稱莽夫，可他也太聰明了，我不說(shuō)，他自己也會(huì)分析。有時(shí)他比AI厲害！”

最終，在場(chǎng)的“藍(lán)色人”只剩下歐陽(yáng)，方辰，孫暢，周荏，還有兩名軍隊(duì)科學(xué)家，以及一名警方腦機(jī)專家。

歐陽(yáng)又說(shuō)：“周荏，現(xiàn)在開(kāi)始不要收錄數(shù)據(jù)。”

“需要您的授權(quán)。”

“已授權(quán)。權(quán)限時(shí)長(zhǎng)8分鐘。”

“8分鐘你就能說(shuō)完了？”方辰問(wèn)道。

“很簡(jiǎn)單的事，讓孫暢說(shuō)吧。”

“趙欣言確實(shí)也是試驗(yàn)的一部分，但他的死，確實(shí)是一場(chǎng)意外，黃院士也是。”孫暢說(shuō)。

“什么？”

“在他與009前往月球后，研究院臨時(shí)決定啟動(dòng)情感交互試驗(yàn)，觀察機(jī)器人可以達(dá)到的主觀情感上限。此次試驗(yàn)對(duì)趙欣言進(jìn)行了告知，并征得了同意。但事情卻逐漸失控……只有兩位人類參加了此類試驗(yàn)，便是趙欣言和黃院士。他們?yōu)榇耍枰踩胱钚碌摹⑦€未量產(chǎn)的腦機(jī)芯片，可能這款芯片和腦機(jī)系統(tǒng)被沈偲云找到了漏洞。”

“主觀情感上限試驗(yàn)、未量產(chǎn)的芯片植入人體……你們知道這有多危險(xiǎn)嗎？？”方辰在這里就打斷了他。

“等等，方辰，你知道試探主觀情感很危險(xiǎn)，你這些天又是在做什么？”孫暢說(shuō)。

“我怎么了？”

孫暢嘆了口氣：“你通過(guò)幾次校正，暗中保護(hù)013的事，真的要我說(shuō)出來(lái)嗎？”

方辰腦子嗡的一下，頓時(shí)語(yǔ)塞，如鯁在喉。

“沒(méi)關(guān)系，我理解的。”歐陽(yáng)說(shuō)，“周荏實(shí)在太完美了，我有時(shí)也會(huì)忘記他是個(gè)機(jī)器人，所以我能理解你不希望他被銷毀。”

“行啊！”方辰顯得有些激動(dòng)，“現(xiàn)在你們知道了，所以呢？結(jié)束我的訓(xùn)練任務(wù)吧！還是要處分我？開(kāi)除我？悉聽(tīng)尊便！”方辰摸遍自己衣服、褲子的口袋，似乎在找什么。

還是周荏很快便明白了他的意圖，從他的一個(gè)口袋中，精準(zhǔn)地取出了一個(gè)小盒子，盒子里有他一直不舍得抽的兩支煙，和一個(gè)樣式很老的打火機(jī)。

他拿起煙點(diǎn)燃，深深地吸了一口，然后坐在一張桌子上，眼睛盯著爆炸過(guò)后一片狼藉的辦公區(qū)。

“對(duì)不起，我就是那個(gè)年代的老古董，我把機(jī)器人當(dāng)人，我用自己過(guò)時(shí)的價(jià)值觀訓(xùn)練AI……我真的毫無(wú)用處，只會(huì)起反作用，是人類的恥辱吧！不用你說(shuō)，我主動(dòng)申請(qǐng)終止任務(wù)，順便辭去一切職務(wù)！”

“這樣的自尊心，我已經(jīng)很久沒(méi)有見(jiàn)過(guò)了。”歐陽(yáng)笑著說(shuō)，“方辰警官，你這種多樣化的情緒和價(jià)值觀，在現(xiàn)在實(shí)屬難得。比起機(jī)器人，我們更看重你，我們只是擔(dān)心過(guò)多的情感交互，會(huì)導(dǎo)致機(jī)器人觸發(fā)錯(cuò)誤的主觀計(jì)算，反向干擾人類，就像艾莎與趙欣言的案例。”

孫暢說(shuō)：“方辰，我們確實(shí)時(shí)常不能理解你的行為，但你卻只能?chē)L試?yán)斫馕覀儯驗(yàn)槟惝吘剐枰谶@個(gè)新的時(shí)代生活下去。”

“趙欣言理解你們！”方辰提高了音量，“他甚至愿意成為AI的試驗(yàn)品，他活下來(lái)了嗎？！不用解釋了，辭職申請(qǐng)已經(jīng)提交了，是AI通過(guò)還是你們通過(guò)？”

歐陽(yáng)又扭頭說(shuō)了一句：“周荏，授權(quán)延時(shí)，直至我通知終止。”

“是。”

隨即他對(duì)方辰說(shuō)：“趙欣言接觸沈偲云、向他贈(zèng)送009，其實(shí)都是在我們的監(jiān)控之下。當(dāng)時(shí)我們并不了解沈偲云這個(gè)神秘人，只知他與黑市有關(guān)。我們不希望讓人類從事臥底這種高風(fēng)險(xiǎn)工作，于是將計(jì)就計(jì)，允許讓趙欣言將009贈(zèng)予他。要知道，小趙當(dāng)時(shí)還非常抵觸這一決定。我們只好安排了一場(chǎng)手術(shù)，制造了一場(chǎng)所謂的‘醫(yī)療事故’。實(shí)際上，這次手術(shù)決策非常正確。”

“……那得了抑郁癥自殺的結(jié)果……？”

“是假死。實(shí)際上那個(gè)人換了身份來(lái)到軍方進(jìn)行智能飛行器后臺(tái)研發(fā)工作。”

“那既然009一直在沈偲云身邊活動(dòng)，你們?cè)趺纯赡芤恢辈恢老佈ǖ牡准?xì)？？”

“因?yàn)槲覀儧](méi)想到沈偲云的離線技術(shù)如此發(fā)達(dá)，而且屏蔽防護(hù)能做得這么好。他傳給趙欣言的資料也只是皮毛，當(dāng)時(shí)誰(shuí)也無(wú)法相信，自009到他手上，我們便再也無(wú)法通信了。現(xiàn)在看來(lái)，好在009還算不上IHR形態(tài)，不然沈偲云真可能利用她打破三定律了……”

這時(shí)，方辰已經(jīng)交出自己的配槍，轉(zhuǎn)身向外走去。他一向沒(méi)有耐心，既然從一開(kāi)始就聽(tīng)到了突破自己底線的部分，繼而再堅(jiān)持聽(tīng)到這里已屬艱難。

“方辰警官。”這時(shí)周荏的聲音：“你的離職行為同樣不符合我的計(jì)算推測(cè)。”

“那是你太笨了吧？我和你搭檔，鬧出多少是非和事故，你不知道嗎？”他把抽盡最后一口的煙蒂扔開(kāi)說(shuō)：“到此為止吧，IR013，從此你我無(wú)關(guān)了。”