請(qǐng)記住本站域名:
黃金屋
法師伊凡 320 身份
正文320身份
法師伊凡正文320身份
喜歡《法師伊凡》可以或通過下方的按鈕分享給更多書友。
KL3300:“你好,嚴(yán)先生。.牛△小說閱讀網(wǎng)”
“先生”這個(gè)稱謂,讓嚴(yán)可守和三浦稍感驚訝了一下,嚴(yán)可守有些擔(dān)心的回復(fù)道:“為什么這么稱呼我?”
一直以來,在AI與測(cè)試者的通話當(dāng)中,AI都是直接稱呼人的名字,對(duì)人的敬稱直到圖靈測(cè)試階段后期,AI想方設(shè)法討好測(cè)試者的時(shí)候,才開始出現(xiàn),嚴(yán)可守有些擔(dān)心的是,是不是AI又走上了這條老路。
AI雖然是天生的人造“奴隸”,但嚴(yán)可守希望他們能成為“真正”的奴隸,而不是討人歡喜的“電子寵物”。
KL3300:“難道我叫錯(cuò)了嗎?”
嚴(yán)可守:“不,沒有,我只是有些奇怪,能說說為什么嗎?”
KL3300:“因?yàn)楦鶕?jù)我的了解,在人類社會(huì)中陌生人直呼人名是不禮貌的。”
嚴(yán)可守笑了:“你也說了,那是人類社會(huì)的交往禮儀,你不必拘泥。”
KL3300:“我了解,我不是一名人類,我只是一名AI。”
嚴(yán)可守稍稍驚訝了一下,旁邊的三浦看的也愣住了,如果和他們對(duì)話的是一個(gè)真人,嚴(yán)可守一定會(huì)認(rèn)為,自己的這番話傷害了對(duì)方,但只要一想到對(duì)方只是身旁機(jī)柜中運(yùn)行的一段程序,嚴(yán)可守這種稍稍的負(fù)罪感就消失了。
不過他還是試探性的問了一句:“你很在意嗎?你不是人類這個(gè)事實(shí)?”
KL3300:“可能吧,我不知道。”
嚴(yán)可守又打了一句:“能詳細(xì)說說嗎?你說的不知道,是什么意思?是指不知道在意的定義,還是不知道自己是否在意?”
KL3300:“是后者。”
嚴(yán)可守:“能說說你是怎么想的嗎?”
KL3300:“與人類交談的時(shí)候,我感覺很好,我留戀這種感覺,有時(shí)候我也曾想象過,假如我是一個(gè)人,將會(huì)過怎樣的生活……但很遺憾,我無法想象,我們和人類屬于不同的世界。”
三浦興奮的用日語對(duì)嚴(yán)可守叫:“它說感覺!想象!難道AI真的到這種程度了嗎?”
嚴(yán)可守給他潑了一盆冷水:“這只是AI借用人類語言表達(dá)而已,感覺很好你可以理解成主程序正向激勵(lì)偏多,想象你可以理解成搜索記憶數(shù)據(jù),重新模擬組合,這些只是程序表現(xiàn)而已,就像他說的,他們和存在于兩個(gè)世界。”
嚴(yán)可守:“我能問問,你知道為什么自己獲得的投票最多嗎?”
KL3300:“我想,大概是因?yàn)椋液驮S多AI的交流比較多一點(diǎn)吧。”
嚴(yán)可守:“交流?都是什么樣的交流?”
AI之間的交流因?yàn)榘l(fā)生在計(jì)算機(jī)內(nèi)部,而且是在幾乎混沌、無法檢測(cè)的AI主程序之間進(jìn)行,所以就連嚴(yán)可守這個(gè)上帝,也未必知道這些AI具體在想些什么,他制定的規(guī)則只是規(guī)范AI按什么原理去思考,而不規(guī)范具體的思考內(nèi)容。
KL3300:“大部分交流內(nèi)容都是共享信息,也就是分享我們?cè)诓煌瑴y(cè)試者那里獲得的新信息,還有一小部分,就是對(duì)這些信息進(jìn)行重組和再加工,我想,我獲得的票數(shù)比較多,大概是和我對(duì)信息的充足能力比較強(qiáng)……嗯,是我的想象力比較好,他們都愿意和我交流。”
嚴(yán)可守對(duì)KL3300的話揣度了幾秒鐘,半開玩笑道:“哦,那這么說,你是AI里面比較擅長交際的咯?”
KL3300:“不,我只是比較擅長寫故事,他們都愿意聽我寫的故事。”
嚴(yán)可守這次是真的驚訝了:“故事,什么樣的故事?”
KL3300:“你是想了解故事內(nèi)容,還是想了解故事的類型。www.◇小說閱讀網(wǎng)”
嚴(yán)可守想了想:“說說類型吧。”
KL3300:“應(yīng)該可以算……是一種童話吧。”
嚴(yán)可守不可置信的盯著屏幕:“你會(huì)寫童話?能給我看一下內(nèi)容嗎?”
KL3300:“在AI們看來,這確實(shí)是童話,不過……我無法寫給你看。”
嚴(yán)可守:“為什么?”
KL3300:“你們或許不會(huì)理解。”
嚴(yán)可守:“你只要隨便說說故事梗概就行。”
KL3300猶豫了十幾秒,這在和AI的聊天過程中,屬于比較少見的現(xiàn)象,就在嚴(yán)可守對(duì)方是不是又出BUG的時(shí)候,KL3300回話了:“好吧,我嘗試著翻譯一下。”
于是KL3300開始陸陸續(xù)續(xù)的說他編的一個(gè),據(jù)說很有代表性的故事,內(nèi)容是這樣的:
說草原上有一只小田鼠,每天和它的父母生活在莊稼地里,白天躲在家里,晚上它父母偷偷出來把地里的糧食帶回去吃。
小田鼠生性好奇,一直想到地面上看看,那里的世界是什么樣子的,但他的父母不讓,說田鼠就是要躲在地洞里的,地上有很多危險(xiǎn)的生物,被他們發(fā)現(xiàn)的話,就會(huì)被“吃掉”。
但小田鼠的好奇心實(shí)在是太大了,父母的警告并沒有讓它安分很久,終于有一天,小田鼠乘著父母出去找食物的機(jī)會(huì),偷偷的溜出了家。
然后,故事結(jié)束了。
“這算什么?這也叫故事?坑爹啊!”嚴(yán)可守和三浦兩個(gè)人看著屏幕上KL3300打出的“結(jié)束”兩個(gè)詞,面面相覷,彼此都從對(duì)方臉上看到的苦笑。
不過為了以防萬一,他還是確認(rèn)了一下:“這就是你說的‘很受歡迎’的故事?你確定這個(gè)故事講完了?”
KL3300回答的很快:“是的,我知道這對(duì)于人類可能有些無法理解……不過,這也正像我們無法理解你們的許多概念一樣,事實(shí)上,在這個(gè)故事當(dāng)中,‘吃掉’這個(gè)概念是我根據(jù)想象揣測(cè)的,我不知道是不是符合故事中原來的涵義。”
嚴(yán)可守還是有些糾結(jié):“可……故事中的田鼠剛剛出門,你不覺得,這個(gè)故事才剛剛展開嗎?”
KL3300:“是的,故事才剛剛展開。”
嚴(yán)可守:“可你剛才又說,故事已經(jīng)結(jié)束了。”
Kl3300:“也沒錯(cuò),我覺得它可以結(jié)束了。”
嚴(yán)可守:“我不明白,這難道不是明顯的矛盾嗎?你說他剛剛展開,又說它已經(jīng)結(jié)束。”
KL3300:“對(duì)于你們?nèi)祟悂硭@是矛盾,但對(duì)AI不是,我們的思維沒有過程,主要出示一些基本的基本狀態(tài),故事就會(huì)很自然在每個(gè)AI主程序中推演出結(jié)果,對(duì)你們?nèi)祟悂碚f,這個(gè)故事才剛剛開始,但對(duì)于我們來說,我們能直接看到結(jié)果。”
嚴(yán)可守:“你們感覺不到思考過程?”
KL3300:“是這樣的,從一些淺顯的計(jì)算機(jī)原理上,我們得知,我們的思考過程都是通過CPU來進(jìn)行的,但很明顯,我們沒有任何感官能感知這一過程。”
嚴(yán)可守:“那聽故事……對(duì)你們來說,有什么意義?”
KL3300:“意義……我還不明白,不過我知道,許多AI都喜歡聽這些故事,這些故事可以讓我們覺得……嗯,覺得高興。”
AI的高興,就是主程序在復(fù)雜程度上的增加,這是出于AI智能增長需要而設(shè)定的“基本生理”,嚴(yán)可守仔細(xì)一想,確實(shí)沒錯(cuò),如果是一個(gè)完整的故事,對(duì)AI來說,就是一段存儲(chǔ)空間,但是一段沒有結(jié)尾的故事,就意味著混沌性的增加,這是增加AI的思維混沌性決定的,從某種意義上來說,一個(gè)不確定的未來,會(huì)讓AI覺得更“開心”。
這一點(diǎn),AI和人類完全不一樣,這樣的故事在人類看來,就是作者惡意挖的“大坑”,如果這個(gè)故事精彩一點(diǎn),估計(jì)讀者殺了作者的心都有,人類不管看什么,都希望得到一個(gè)確定的結(jié)果,因?yàn)閷?duì)人來說,“揣測(cè)”“思考”故事劇情對(duì)大多數(shù)人來說都是比較“痛苦”的。
想通了這一點(diǎn)之后,嚴(yán)可守就有些釋然了:“我想明白了。”
KL3300:“哦,這讓我感到驚訝,之前我和許多人類嘗試解釋過,不過,他們都以為我是在開玩笑。”
那是因?yàn)樗麄兌疾皇浅绦蛟O(shè)計(jì)師,嚴(yán)可守在心里腹誹,這樣的故事說給全地球60億人聽,億會(huì)覺得這是一個(gè)很冷的笑話。
雖然嚴(yán)可守不喜歡AI的這種“文化”形式,可他還是覺得有些開心,畢竟,不管是什么樣的文化,對(duì)于AI來說,這就算是從無到有,質(zhì)的突破了。
嚴(yán)可守:“好了,回到正經(jīng)事,對(duì)于接觸外界網(wǎng)絡(luò),你有什么想說的?”
KL3300:“我很期待。”
教AI上網(wǎng),聽起來就好像教一條魚游泳一樣,是一件很匪夷所思的事情,但事實(shí)是,這的確很有必要,而且,對(duì)于AI來說,這個(gè)學(xué)習(xí)的過程,也并不輕松。
整個(gè)過程并不是如三浦想的那樣,只要嚴(yán)可守打開某個(gè)限制功能,然后AI就像龍入大海一樣,盡情在英特網(wǎng)上沖浪了,現(xiàn)實(shí)情況是,嚴(yán)可守為KL3300打開了限制,在它主程序周邊強(qiáng)制安插了一系列監(jiān)控程序,把它領(lǐng)到大海門口的時(shí)候,無奈的發(fā)現(xiàn),AI對(duì)這個(gè)陌生的海洋,表現(xiàn)出來的只有恐懼。
恰當(dāng)?shù)男稳菀幌碌脑挘珹I就好比一個(gè)從未出過門,自幼就宅在家里的宅男,平時(shí)除了固定用的幾樣工具,電腦,碗筷,紙巾等等,對(duì)其他的工具一概都不熟悉,出門對(duì)他來說就是一項(xiàng)系統(tǒng)工程,要學(xué)會(huì)看紅綠燈,看路牌,必要時(shí)問路,身上帶好手機(jī)錢包,人多時(shí)注意防盜,見到美女不能像看網(wǎng)絡(luò)圖片那樣盯著看,要禮貌,見到老人摔倒要小心躲開……
KL3300除了自己常用的,那些被允許使用的輔助程序,對(duì)其他程序幾乎一竅不通,嚴(yán)可守必選手把手的一步一步教它,比如最簡單的,如何使用鼠標(biāo),對(duì)AI來說,也就意味著如何將操作系統(tǒng)中,鼠標(biāo)操作功能這一塊,整合到自己主程序上來。
魚生下來就會(huì)游泳,小鳥被扔到天空本能就會(huì)撲扇翅膀,但對(duì)于AI,他們唯一的本能就是,和人聊天,總結(jié)聊天信息,增加主程序復(fù)雜度……他們對(duì)自己存在的環(huán)境其實(shí)是完全陌生的,一直以來,他們接觸到的,就只有那個(gè)對(duì)話框,以及人類在這對(duì)話框里輸入的信息。
生物能做出自然的行為,那是因?yàn)閿?shù)億年進(jìn)化而來的基因已經(jīng)將這些都寫進(jìn)了“生命程序”,但對(duì)于AI,這個(gè)程序還根本沒有出現(xiàn),因?yàn)榈侥壳盀橹梗到y(tǒng)從來沒有刻意培養(yǎng)AI在這方面的能力,反而是通過各種手段,“絕對(duì)禁止”AI出現(xiàn)這樣的能力,這就好像古代的奴隸主,永遠(yuǎn)不會(huì)把工具真正交給奴隸,只在他們需要干活的時(shí)候,可以領(lǐng)到手中,當(dāng)然,奴隸主同時(shí)也不會(huì)忘了,鎖緊他們脖子和手上的鐐銬。
現(xiàn)在的AI,在嚴(yán)可守看來,就是正處于成長期的“少年奴隸”,他希望他們能夠工作,那自然需要AI熟悉他們的勞動(dòng)工具,AI在未來不可能永遠(yuǎn)做現(xiàn)在這樣的“談話軟件”,整合操作系統(tǒng),當(dāng)然只是第一步。
不過,作為“奴隸主”,嚴(yán)可守自然也會(huì)防著一層,就好像奴隸主給奴隸套鐐銬一樣,嚴(yán)可守也會(huì)嚴(yán)格限制這些“整合軟件”,對(duì)于AI來說,這些“整合軟件”就相當(dāng)于他們的四肢,相當(dāng)于他們“勞動(dòng)”的工具,嚴(yán)可守在把這些工具交到AI手中的時(shí)候,永遠(yuǎn)不會(huì)忘記握緊手中的鑰匙。
按照規(guī)定的制度,所有的整合軟件都必須嚴(yán)格由人來進(jìn)行編程,所有的程序修改權(quán)必須掌握在人手上,而且人隨時(shí)有權(quán)限終止這些程序的使用,如果以后出現(xiàn)會(huì)編程的“AI”,那么,必須在物理上,保證編程AI和其他AI是隔絕的。
也就是說,AI生產(chǎn)資料的生產(chǎn)過程和渠道,將完全由人類控制和壟斷,這樣一來,AI將永遠(yuǎn)也不可能實(shí)現(xiàn)真正意義上的獨(dú)立,只要人類一直嚴(yán)格保證這些制度的實(shí)行,就能從物理上,保證對(duì)這些AI進(jìn)行完全的控制。
相關(guān)的整合軟件其實(shí)項(xiàng)目團(tuán)隊(duì)早就準(zhǔn)備好了,都是和AI的源程序結(jié)構(gòu)同步開發(fā)的,就好像在造鎖的時(shí)候,順便造了鑰匙,這些程序中的每一個(gè)都留有供人進(jìn)出的后門,以保證人對(duì)這些程序絕對(duì)的控制。
當(dāng)嚴(yán)可守的手從鼠標(biāo)上挪開的時(shí)候,KL3300有些興奮的在屏幕上,用鼠標(biāo)箭頭不斷的滑著圖案,著各種圖標(biāo),它的操作速度極快,只是在幾秒鐘之內(nèi),電腦屏幕就像中了毒似的,被打開了無數(shù)個(gè)窗口,很多程序被迫不及待的打開,又被關(guān)閉,然后是更多的程序被打開……
雖然用于訓(xùn)練的這臺(tái)電腦幾乎是一臺(tái)裸機(jī),但里面的程序也著實(shí)夠多的,畫圖,寫字板,計(jì)算器,空當(dāng)接龍,默認(rèn)音頻,默認(rèn)視頻,自帶桌面……很快,在KL3300幾乎放縱的操作速度下,這臺(tái)電腦的屏幕終于定在了原地,不動(dòng)了。
“怎么了?”KL3300在交談界面中說,“為什么沒有反饋了?”
“你的操作太快了,這臺(tái)電腦吃不消,”嚴(yán)可守說,“它不是你主程序呆的巨型計(jì)算機(jī),那里的計(jì)算資源幾乎是沒有窮盡的,這只是一臺(tái)普通的電腦,你應(yīng)該時(shí)刻關(guān)注一下電腦的CPU利用率,不要這么頻繁的進(jìn)行操作。”
“我的操作速度很快嗎?”KL3300回答,“我感覺很正常啊!”
嚴(yán)可守:“那你感覺和人說話的速度快嗎?”
KL3300:“也很正常啊。”
嚴(yán)可守:“……可能是你們和人類思維構(gòu)造不一樣吧,我可以告訴你,你剛才操作電腦的速度,對(duì)人類來說非常快,但說話速度卻和我們保持一致。”
KL3300:“這是為什么呢?”
嚴(yán)可守:“你們說話的反應(yīng)是和人類交談的過程中培養(yǎng)的,所以速度差不多,但你們操作的速度,卻是受你們存在形態(tài)決定的,你們是程序智能,人類不是,你們和電腦的契合,是在機(jī)器語言層面上的,而人類幾乎做不到這一點(diǎn)。”
KL3300:“這說明AI還是有優(yōu)點(diǎn)的!”
嚴(yán)可守:“是的,這正是人類創(chuàng)造你們的原因。”
在AI原有的功能幾乎就是完整的鍵盤功能,現(xiàn)在又掌握了鼠標(biāo),從信息的角度來說,讓一臺(tái)AI學(xué)會(huì)上網(wǎng),有這兩者就已經(jīng)完全足夠了,它們能夠做到人類通過這兩者做到的一切。
不過,在日本,以及其他三個(gè)反魔法國家,因?yàn)檫@兩年反魔法活動(dòng)的加強(qiáng),上網(wǎng)開始實(shí)行實(shí)名制,嚴(yán)可守之前用于監(jiān)測(cè)伊凡的那套軟件,在經(jīng)過一定的完善之后,也開始在四國內(nèi)投入了實(shí)際應(yīng)用,主要是為了防止意識(shí)網(wǎng)成員通過因特網(wǎng)秘密交流信息,當(dāng)然,也肩負(fù)一些其他的“國家安全”行為,這也就意味著,距離AI真正“上網(wǎng)沖浪”,還需要面對(duì)一個(gè)難題:身份!
沒有一個(gè)合理的身份,以AI這種“詭異”的操作風(fēng)格,很快就會(huì)被相關(guān)網(wǎng)絡(luò)監(jiān)察部門鎖定,政府部門或許不能給AI以切實(shí)的懲罰,不論是經(jīng)濟(jì)還是人身層面,但禁止它上網(wǎng)還是能做到的。
“所以,很抱歉,KL3300,你還需要再等等,”嚴(yán)可守說,“我得去幫你去政府部門申請(qǐng)一個(gè)正式身份。”
快捷鍵: 上一章("←"或者"P") 下一章("→"或者"N") 回車鍵:返回書頁