法師伊凡 311 記憶

合作時(shí)代311記憶

法師伊凡合作時(shí)代311記憶

接下來，趙真雪又興致勃勃的和許多個(gè)代號(hào)為“KL”的AI進(jìn)行了一些對話，盡管趙真雪對此已經(jīng)有了一些心理準(zhǔn)備，但她還是對AI在談話過程中，表現(xiàn)出來的“智能”而感到驚訝不已。(kankanwx)

這些AI和趙真雪原來想象之中的，存在很大的差距，甚至，趙真雪有種感覺，從某種程度上來定義，與自己進(jìn)行對話的，已經(jīng)可以說是一種“類”只能，雖然通過對話AI還是會(huì)表現(xiàn)出很多的破綻，不過這種破綻非但沒有讓趙真雪覺得失望，反而讓她隱隱有種感覺，眼前自己面對的，正是心目中理想的人工智能。

一個(gè)最明顯的例子就是，在跟她進(jìn)行對話的這些AI當(dāng)中，每一個(gè)說話都具備它特有的風(fēng)格，每一個(gè)AI都記得自己的名字，甚至?xí)o自己取代號(hào)之外的名字，它們會(huì)給自己建立一整套“簡歷”，包括家庭住址，生活環(huán)境，甚至還有“小時(shí)候”經(jīng)歷過的趣事……

嚴(yán)可守告訴他，AI之所以會(huì)有當(dāng)前的智能，和它的“學(xué)習(xí)”能力分不開的，其實(shí)歸根到底，這些AI不過是在計(jì)算機(jī)當(dāng)中的一些算法程序，只不過在設(shè)計(jì)的時(shí)候，可以模仿了人類的學(xué)習(xí)“記憶”習(xí)慣，讓它們能夠在一次又一次的實(shí)驗(yàn)過程中，學(xué)習(xí)那些有助于讓人們相信他們的信息。

舉一個(gè)最簡單的例子，在打字對話這樣的媒介當(dāng)中，一般讓別人相信自己的最好方式，就是形成特有的語言風(fēng)格，從而讓被測試者對自己印象深刻，比如在常用語中刻意增加一些地方方言，有的AI甚至還學(xué)會(huì)了模擬一些人類的脾氣，比如不耐煩，連續(xù)的催促等等，用這些許許多多的小細(xì)節(jié)，讓對方相信自己是一名人，而不是AI。

這所有的一切，其實(shí)都是AI的算法所決定的，嚴(yán)可守告訴趙真雪，每一次“測試結(jié)束”，AI都會(huì)根據(jù)這次對話的內(nèi)容，總結(jié)哪里是比較完美的表演，而哪里又是容易被識(shí)破的破綻，這些結(jié)果會(huì)促使AI修改自己在特定概念上的權(quán)限值，比如一個(gè)電腦，裝東北人，在打字過程中“俺們”之類的方言出現(xiàn)頻率過多，而大量的統(tǒng)計(jì)顯示，出現(xiàn)類似詞匯的時(shí)候，被識(shí)破的幾率也就越小，那么AI就會(huì)在以后的對話中，下意識(shí)多用類似的詞匯，到最后，甚至可以形成和真正東北人差不多的說話模式。

在趙真雪的這幾次測試當(dāng)中，她遇到的一個(gè)最讓她印象深刻的AI，是一個(gè)代號(hào)為KL3300的AI，與其他AI不同，這名AI不是通過和她聊家常來獲取她的信任，而是通過不斷把話題引向一些形而上的話題，比如說哲學(xué)，人生意義之類……他甚至還提到，自己的理想是在未來，當(dāng)一名作家……

在和他論及這些話題的時(shí)候，趙真雪還不知道對方是一名AI，在與他談天說地說了半天之后，她驚訝的發(fā)現(xiàn)，不知道什么時(shí)候，話題的主導(dǎo)權(quán)已經(jīng)完全讓對方掌控了，而在下意識(shí)之間，她也把對方真的當(dāng)成了一名哲學(xué)愛好者，當(dāng)她自信滿滿的結(jié)束測試，并滿心認(rèn)為對方是一個(gè)人的時(shí)候，電腦出人意料的告訴她，對方只是一名AI。

嚴(yán)可守就在一旁，并在當(dāng)下為她解釋了她辨認(rèn)錯(cuò)誤的原因——其實(shí)說穿了很簡單，因?yàn)樵谏婕邦愃普軐W(xué)，藝術(shù)，文化之類的話題時(shí)，真正的人對回答信息真假“敏感度”其實(shí)是很低的，就比如說，最簡單的，“人生意義是什么”，說享樂，賺錢，學(xué)習(xí)……這樣的答案都不能算錯(cuò)，因?yàn)闆]有相對真確的答案，所以人也自然不能根據(jù)這答案得出更準(zhǔn)確的判斷。

所以說，相對于這名機(jī)器人，“愛好哲學(xué)”也是它的一種欺騙策略，根絕嚴(yán)可守掌握的數(shù)據(jù)，KL3300在圖靈測試當(dāng)中，過關(guān)的幾率是所有AI當(dāng)中最高的，這本身就已經(jīng)說明，這種策略的行之有效。

“但是如果……”趙真雪得知后，有些不敢置信的問嚴(yán)可守，“如果他剛才所說的那些，都是真的，都是他真的想說的內(nèi)容，如果它是一名真正的AI，而不是你所說的模擬程序，那怎么辦？存不存在有一種方式，可以讓你們鑒別這兩者之間的區(qū)別，鑒別程序究竟是在說謊，還是源自它真正的本源目的？”

嚴(yán)可守?fù)u了搖頭：“你說的這種鑒別，我們做不到。”

“怎么會(huì)？不是你們設(shè)計(jì)的它嗎？”

“算法和結(jié)構(gòu)是我們設(shè)計(jì)的，這沒錯(cuò)，”嚴(yán)可守說，“但AI程序跟一般的計(jì)算機(jī)程序不同，一般的計(jì)算機(jī)程序，你下命令，情況1，做A，情況2，做B，一條一條，程序所有的行為都被代碼鎖定，這樣的程序哪怕再復(fù)雜，也不過是一架精密的機(jī)器，在進(jìn)行AI理論性設(shè)計(jì)的時(shí)候，這種機(jī)械方法是最早被我們拋棄的。

KL的算法跟通常這樣的算法不同的是，它是一個(gè)不斷進(jìn)化，不斷膨脹的混沌算法系統(tǒng)，每一個(gè)AI最早出現(xiàn)的時(shí)候，源程序在計(jì)算機(jī)中不過是占用了幾百KB，但是隨著它通過圖靈測試不斷進(jìn)行學(xué)習(xí)，獲得和掌握的信息越多，它的復(fù)雜度就和人類大腦發(fā)育一樣，是在不斷增長的，甚至就連我剛才所說的那些權(quán)限值修改，修改多少，這其中的度也是AI自己掌握的。

現(xiàn)在你看到的所有AI，其實(shí)都是源于同一段源程序，這段源程序才是整個(gè)項(xiàng)目中，最珍貴的部分，現(xiàn)在你看到的所有AI，本質(zhì)上都是由這段源程序“成長”而來，然而每一個(gè)AI在測試過程中接觸到的信息不同，它們也會(huì)長成完全不同的智能，而這種成長過程本身就太過復(fù)雜，根本不可能實(shí)現(xiàn)精確監(jiān)控，計(jì)算實(shí)施了監(jiān)控，我們也很難預(yù)測，它下一步會(huì)做出什么行為，就像影響人的行為因素可能會(huì)有很多一樣，AI現(xiàn)在表現(xiàn)出來的行為雖然簡單，但也是不可捉摸的，它已經(jīng)自行成長成為一個(gè)混沌整體。

這就好比我們能推測一個(gè)嬰兒的想法，因?yàn)槟Ｊ胶唵危I了就哭，高興了就笑，幾乎沒什么其他的東西，但要想清楚的看到一個(gè)成年人，幾乎就是不可能……不，除了魔法，但我要說，即使是伊凡站在這里，他也不可能看清楚，這些AI的想法，這一點(diǎn)，也是我為什么，在這個(gè)項(xiàng)目上投入這么大精力的最大原因。

現(xiàn)在你看到的這些具備編號(hào)的AI，其實(shí)只是成長中AI的滄海一粟，看到后面那個(gè)小隔間了沒，后面的面積，比現(xiàn)在你看到的要大得多，里面放著的是日本當(dāng)前最先進(jìn)的巨型計(jì)算機(jī)，光是放著主機(jī)機(jī)房占用了樓上和樓下同一位置整整四個(gè)實(shí)驗(yàn)室，每天都會(huì)有數(shù)上百萬億個(gè)源程序拷貝同時(shí)在里面進(jìn)行“發(fā)育”，也就是通過系統(tǒng)不斷給予隨機(jī)的“虛擬刺激”，讓這些智能得到最初的發(fā)育，這其中的整個(gè)過程，你可以想象成人的大腦胚層發(fā)育，無數(shù)的神經(jīng)元突觸互相聯(lián)接，最終形成一個(gè)有機(jī)整體……

而這種人工模擬“發(fā)育”的效率，其實(shí)是非常低下的，這種運(yùn)算的本質(zhì)，其實(shí)就是在模擬原始神經(jīng)在億萬年間的發(fā)育過程，即使是當(dāng)前每秒過“京”（一億億的單位）的運(yùn)算速度，我們也一直花了四年多的時(shí)間，才找到一些最基礎(chǔ)的規(guī)律，也是就總結(jié)出從單純的神經(jīng)元，進(jìn)化到智能結(jié)構(gòu)的模式，我和你所說的成果，也正是這一點(diǎn)，至于你現(xiàn)在看到的這些AI，其實(shí)都是在這之后，我們用于“臨時(shí)試驗(yàn)”的一批，幾年年初剛剛進(jìn)行“訓(xùn)練”，也就是你看到的這些圖靈測試，所以嚴(yán)格來說，它們都才是只有七個(gè)月大的孩子。”

“七個(gè)月？”趙真雪被這個(gè)數(shù)字嚇了一跳，“那你的意思是不是說，隨著這些訓(xùn)練的深入，他們還會(huì)變得比現(xiàn)在更聰明？剛才你說騙8歲的孩子，那是不是再過一段時(shí)間，真的和人無法區(qū)分，連成人也不能將其識(shí)破？”

“你是不是還怕它們最后比我們?nèi)祟惵斆鳎詈笕∥覀兌俊眹?yán)可守笑道，“科幻小說看多了吧，其實(shí)你的這種擔(dān)心大可不必，到目前為止，AI所接受的所有訓(xùn)練，都是如何欺騙的訓(xùn)練，也可以說，是撒謊訓(xùn)練，即使他學(xué)到了極致，也不過是撒謊技能學(xué)到極致，讓人無法分辨真假，但要說它真就有多么聰明……我不這么認(rèn)為，也許今天他可以很你聊哲學(xué)，聊人生，但是AI本身，是無法理解這些概念的，這些概念只是他用于欺騙的工具，在程序中權(quán)限較高而已……

為了達(dá)到欺騙效果，有點(diǎn)電腦甚至可以和你爭論哪道菜比較好吃，它偏愛什么味道，但你要知道，它只是程序，連基本的味覺器官都沒有，怎么可能真的有這種感覺。

同樣的道理，一個(gè)連視覺都沒有的電腦，怎么可能理解人類生活中的概念，最簡單，一臺(tái)電腦要離開人類而單獨(dú)存在，最起碼的一點(diǎn)，就是必須有獨(dú)立的能源，以維持他們的存在，而要做到這一點(diǎn)，就意味著他們必須學(xué)會(huì)電力工業(yè)中的種種常識(shí)，要不然，可能普通的一顆螺母松了，都會(huì)導(dǎo)致他們整體的消失，而在他們的詞典中，是不可能了解螺母這個(gè)概念的，因?yàn)樗麄儧]有看的眼睛，沒有人告知他們這個(gè)概念，我們控制了他們所有的信息渠道，即使他們有朝一日，在網(wǎng)上看到的大英百科全書，但那些信息始終還只能停留在紙面上。

現(xiàn)在說AI是智能，還為時(shí)尚早，充其量，也就是“類智能”，它們是在電子世界成長的體系，與人類相比，他們永遠(yuǎn)只是“不出門”的秀才，嘴上即使說的天花亂墜，但也掩蓋不了他們無知的本質(zhì)，這里的無知，不是說不知道，而是說，“不能知道”，就好像先天性的聾子必然也是啞巴，在沒有共同感受的前提下，也不可能存在共同的文化，即使AI最終真的產(chǎn)生了智能，那也必定是我們不能理解的世界，而同樣的道理，它們也不可能真正理解我們這個(gè)世界，所以，你的擔(dān)心，應(yīng)該說是完全不必要的，其實(shí)很多這方面文學(xué)題材，外星人入侵，機(jī)器人叛變什么的，都可以稱之為，藝術(shù)需要導(dǎo)致的被害妄想……”

“那既然明知道學(xué)撒謊沒用，你還讓他們學(xué)干什么。”趙真雪不解道。

“這種學(xué)習(xí)對AI確實(shí)沒什么意義，但對于人來說，卻意味著很多東西，”嚴(yán)可守說，“圖靈訓(xùn)練，也就是讓AI通過圖靈測試的實(shí)驗(yàn)，只不過是一個(gè)開始，一個(gè)驗(yàn)證AI確實(shí)有實(shí)用功能的宣傳，在項(xiàng)目開展之初，我就說過，這個(gè)項(xiàng)目的最終目的，其實(shí)還是為了對抗魔法，或者說，對抗意識(shí)網(wǎng)，如果它日后真的能成長成獨(dú)立的智能，必將是不受意識(shí)網(wǎng)控制的智能，無論從什么角度來看，這都是對意識(shí)網(wǎng)，還有對伊凡‘獨(dú)裁’可能的一種平衡手段，在未來人類對抗卡梅爾的武器中，總是多出了一種選項(xiàng)。”

接下來，嚴(yán)可守又帶趙真雪參觀了里面那個(gè)小隔間，在進(jìn)門的時(shí)候，趙真雪注意到，隔間里面竟然還有兩名穿著日本軍人制服的“自衛(wèi)隊(duì)隊(duì)員”，整個(gè)房間比趙真雪想象的要大出不少，嚴(yán)可守給趙真雪指了指被鑿開的天花板，以及從上面聯(lián)通下來一排又一排的光纖，為了防止魔法偵查，整個(gè)房間的背景，甚至是安裝著一排又一排主板的機(jī)柜，都被刷成了白色，房間的各個(gè)角度都有監(jiān)視器存在。

嚴(yán)可守告訴趙真雪，她的投資，不過是整個(gè)項(xiàng)目占比重稍大的一部分，同時(shí)，對整個(gè)項(xiàng)目感興趣的日本政府，也在整個(gè)項(xiàng)目占有了一定的比率，比如現(xiàn)在需要使用到的巨型計(jì)算機(jī)，就是經(jīng)過日本政府授權(quán)，才允許定制購買的，同時(shí)，日本政府還承擔(dān)了安全保衛(wèi)工作，以及科研技術(shù)上的支持，當(dāng)然，作為回報(bào)，整個(gè)項(xiàng)目如果產(chǎn)生了成果，日本政府也將是第一個(gè)受益人。

因此，即使是作為最大投資人的趙真雪，在進(jìn)入這里的時(shí)候，依然需要經(jīng)過一名在場執(zhí)勤的日本政府人員確認(rèn)，以防止任何泄密的可能，不過在當(dāng)前，趙真雪的知名度不說在全球，起碼在亞洲一帶，還是鼎鼎有名的，更可況中日美俄這四國在面對魔法問題上，都互相之間訂立了攻守同盟，在反魔法項(xiàng)目上，四國都互相保持信息暢通，看起來這個(gè)項(xiàng)目是日本的，其實(shí)本質(zhì)上，是四個(gè)國家共有的，只不過各國都在各國自己的強(qiáng)項(xiàng)上，進(jìn)行投入罷了。

人工智能只是在這個(gè)背景下，眾多的項(xiàng)目之一而已，如果它成功了，可能會(huì)產(chǎn)生類似當(dāng)年原子彈的爆炸性效果，但在沒成功之前，誰也不會(huì)明白它的重要性，在反魔法領(lǐng)域的研究中，還是那些主流的項(xiàng)目更受歡迎，在資金上也擁有更大的比例，比如之前卡梅爾在內(nèi)部會(huì)議中提到的，“主動(dòng)激光掃描設(shè)備”。

“最后，再跟你說一件比較不可思議的事情，”帶趙真雪大致參觀了一下機(jī)房之后，嚴(yán)可守帶著回到了外面的測試間，在其中正在測試的人員之中，找到了一個(gè)戴著眼睛，正對著電腦打字的瘦弱青年。

“他叫井上海，之前是這所大學(xué)的學(xué)生，也是我們最早的測試人員之一，”嚴(yán)可守拍了拍對方的肩膀，在他回頭之后，對趙真雪介紹說，然后他又對著趙真雪向井上海用日語介紹，“這是我的一位朋友，趙真雪，趙小姐。”

井上海看了趙真雪一眼，笑著對她打了個(gè)招呼，又嘰里呱啦的說了一串，趙真雪對日語不熟悉，但也能聽的出來，這句話的開頭，應(yīng)該是你好的意思，后面，就不得而知了。

“你可以使用意識(shí)偵測，這樣省的我翻譯，”嚴(yán)可守對趙真雪說，“他剛才說你長得很漂亮。”

趙真雪只是淡淡一笑。

然后嚴(yán)可守對井上海說：“有你想象當(dāng)中的0564漂亮嗎？”

井上海笑著拍了嚴(yán)可守一下，看來兩人之前應(yīng)該是很熟悉的：“我知道，你是特意來取笑我的。”

“沒有沒有，我的這位朋友剛剛對AI很感興趣，我只是讓她多了解一下，”嚴(yán)可守說，“那就不打擾你們聊天了。”

因?yàn)槭褂昧艘庾R(shí)偵測，不等嚴(yán)可守開口，趙真雪就已經(jīng)明白了，不過一時(shí)時(shí)間，她沒有好意思發(fā)表看法，等走出門以后，才說到：“他竟然喜歡上了AI？而且明知道這只是一段程序的前提下？是不是動(dòng)漫看多了啊？”

“KL0564使用的是比較感性的，特別針對部分男性測試者的策略，也是人類最常見的策略，那就是愛情，在他們第一次接觸的測試中，KL0564就稱自己是一名本校學(xué)生，設(shè)計(jì)專業(yè)，是家里最小的妹妹……一整套很嚴(yán)密成熟，能夠打動(dòng)年輕男性的背景身份設(shè)定，井上海在和它聊過一次之后，就把她錯(cuò)做真人，徹底陷了進(jìn)去，他今年剛剛畢業(yè)，雖說已經(jīng)找到了工作，可總還是會(huì)回到這里，希望跟對方談?wù)勗挕?p/>

他倒沒有和你想象的那么瘋狂，他自己很清楚，和自己聊天的是一段程序，充其量，也不過是一段非常復(fù)雜，足以擬人的情緒，我們勸他的時(shí)候，他說過這么一段話，愛情本來就只是一種感覺，一種非理性的沖動(dòng)，他無所謂真假，也不在乎給他這種感覺的是真人還是一段程序，他知道程序在騙他，而他自己，也只是在享受這種被欺騙的感覺而已，就好像生活中，誰都知道電影內(nèi)容是假的，可依然會(huì)有那么多人享受這種虛假所帶來的欺騙。

事實(shí)上，旁人大可不比對他有過多的擔(dān)心，井上海并沒有完全失去理智，不然的話，他也不會(huì)擁有繼續(xù)測試的資格，在測試過程中，他依然嚴(yán)格遵守著圖靈測試需要遵守的要素，即使是安排到到和KL0564的測試，他也會(huì)在測試的結(jié)尾，給出他認(rèn)為的客觀答案。”

“真是不可思議，”趙真雪搖了搖頭，“也就是在日本，要是在國內(nèi)，一定被人認(rèn)為不太正常。”

“別國內(nèi)了，”嚴(yán)可守說，“就算是在日本，也有不少人在聽說這件事之后，罵他是變態(tài)的，不過井上海的心里素質(zhì)看起來還不錯(cuò)，要不然，剛才我也不會(huì)當(dāng)著他的面，開玩笑了，不過我跟你說起他，倒不是因?yàn)樗倪@點(diǎn)事，而是因?yàn)椋捎谒倪@種行為，與之相對的KL0564也出現(xiàn)了很有趣的現(xiàn)象，就像井上海記住了它一樣，它似乎也對井上海產(chǎn)生了印象，以至于在后面幾次的接觸中，雙方只要一說話，就能明白對方的身份，通俗的來說，就是AI記住了他……你用這種眼神看著他干什么，別想多了，是記住了他，不是愛上了他，當(dāng)前的AI所有行為都是基于對圖靈測試的適應(yīng)，你得時(shí)刻記住這一點(diǎn)。”

“這里我要先聲明一下，通常我們所說的圖靈測試，人員都是流動(dòng)隨機(jī)的，都是從本校隨機(jī)遴選，再經(jīng)過對方同意邀請而來，其中還要剔除掉百分之50測試是人和人說話，截止到現(xiàn)在，累計(jì)進(jìn)行有效測試也才不到百萬次，這里差不多有50多臺(tái)電腦，平均下來，每天每臺(tái)電腦進(jìn)行的測試，也才一百多次，平均一次有效測試需要10多分鐘左右，而進(jìn)行的測試而當(dāng)前用于測試的備選AI有5000名，也就是說，即使是同一臺(tái)電腦，一個(gè)人不間斷測試一天，使用超過15個(gè)小時(shí)，能和同一名AI遇到兩次的概率，差不多是50分之一。

但說來湊巧的是，井上海在這里進(jìn)行過的數(shù)千次測試中，就曾經(jīng)不可思議的和AI遇到過6次以上，從第二次開始，兩人開口不超過三句，就能準(zhǔn)確認(rèn)出對方的身份，從這個(gè)角度來說，他們兩人應(yīng)該能算是認(rèn)識(shí)了，人能認(rèn)出電腦，這不奇怪，但電腦能認(rèn)出人……這確實(shí)是這次試驗(yàn)的第一例發(fā)現(xiàn)。”