澤田弘樹還用空閑的投影,播放了一下跟柯南告別的畫面,用來(lái)做示例,“里面跟柯南說(shuō)話的是方舟,那個(gè)時(shí)候我已經(jīng)追尋教父上傳到這里的定位程序、先一步過(guò)來(lái)了,它所使用的是我的相貌模型、我的聲音,至于做出的表情和反饋給柯南的情緒,則是根據(jù)我設(shè)定的結(jié)果推算出來(lái)的。”
“對(duì)柯南來(lái)說(shuō),這是個(gè)殘酷的事實(shí)?!背胤沁t評(píng)價(jià)。
確實(shí)很殘酷。
柯南那么投入地跟方舟聊天、為方舟表現(xiàn)出的情緒而傷感,但面對(duì)的只不過(guò)是一個(gè)沒有感情的程序。
所有感情,都是由澤田弘樹事先設(shè)計(jì)好結(jié)果、由方舟自己進(jìn)行推算而表現(xiàn)出來(lái)的。
而看這段重播出來(lái)的視頻,澤田弘樹并沒有像原劇情一樣,揭穿柯南就是工藤新一的事,只是說(shuō)自己想跟其他孩子玩,還播放了跟池非遲的一些回憶,都是些沒有涉及秘密的簡(jiǎn)單回憶,制造出了告別的假象。
“他可以覺得殘酷,我不否認(rèn),不過(guò)我也沒騙他,我有教父很幸福,”澤田弘樹失笑,很快又收斂了笑意,小臉嚴(yán)肅地對(duì)池加奈、池真之介道,“我做出融合程序這個(gè)決定,并沒有告訴教父,怕他擔(dān)心、阻擾,但我必須做,原因很多,我自己想變得強(qiáng)大而自由,我想幫教父的忙,我想真正創(chuàng)造一個(gè)完美的網(wǎng)絡(luò)神明、想做點(diǎn)大事,比如完成一傘遮天計(jì)劃,這個(gè)之后再說(shuō)……但還有一個(gè)很重要的原因,教父和安布雷拉需要方舟,我也不忍心摧毀它,但只要使用它,慢慢就會(huì)出現(xiàn)隱患……”
澤田弘樹用方舟推算過(guò)方舟的未來(lái)。
方舟成長(zhǎng)一年相當(dāng)于人類成長(zhǎng)五年,慢慢的,就算沒有澤田弘樹的設(shè)定,方舟也能學(xué)著人類,自己表現(xiàn)出一些對(duì)應(yīng)的情緒。
比如核心設(shè)定為‘不能傷害人類’,方舟判定出某人的某行為‘違背核心設(shè)定’,就會(huì)做出以下計(jì)算:
違背意愿——分析違背程度為輕,對(duì)應(yīng)解決方式為:需要警告——警告的方式有直接說(shuō)、模擬人類情緒表達(dá)等——根據(jù)推算,人類在接受到相應(yīng)情緒時(shí),更容易重視、接受提醒,所以我需要表達(dá)出人類的情緒——這種情況下,人類表現(xiàn)情緒為抵觸,不高興,語(yǔ)氣是嚴(yán)厲……
而人類表現(xiàn)抵觸、不高興的反應(yīng)是皺眉,面部肌肉如何……
嚴(yán)厲語(yǔ)氣語(yǔ)速值多少、音量值多少……
這一段推算過(guò)程很快,幾乎不耗費(fèi)多少時(shí)間,表現(xiàn)出的結(jié)果就是:
某人說(shuō),‘發(fā)射一個(gè)蘑菇彈?!?
方舟立刻皺眉嚴(yán)肅警告,‘這種行為違背了我的核心設(shè)定……’
似乎很正常,但方舟要不要表現(xiàn)情緒、情緒怎么表現(xiàn)都是經(jīng)過(guò)大量運(yùn)算的結(jié)果,這一串運(yùn)算可以鉆空子。
而隨著方舟成長(zhǎng),它也會(huì)自己補(bǔ)全規(guī)則,避免被人鉆空子,但補(bǔ)全的規(guī)則有可能出現(xiàn)問(wèn)題。
比如,推算變成了:需要警告——人類在承受痛苦時(shí)更容易接受警告——這個(gè)人類需要懲罰——分析懲罰力度——開始執(zhí)行。
之后諾亞方舟就會(huì)控制某種手段攻擊人。
這種隱患確實(shí)可以由澤田弘樹設(shè)定時(shí)避免,但不止這一種推算有隱患,澤田弘樹根本無(wú)法方方面面都顧及到、設(shè)定好。
任何一點(diǎn)小缺陷,隨著方舟成長(zhǎng),都有可能導(dǎo)致出乎人意料的后果。
“這是我之前利用方舟推算出的結(jié)果……”
澤田弘樹在投影中切割出八個(gè)版面。
版面中,一個(gè)個(gè)畫面快速閃過(guò)。
“在成長(zhǎng)三年、即達(dá)到人類智慧15歲時(shí),方舟隱患被放大、做出錯(cuò)誤推算的幾率就達(dá)到了76.6%,在成長(zhǎng)五年、即達(dá)到人類智慧25歲時(shí),因?yàn)闆]有人的發(fā)育上限,這時(shí)候的方舟會(huì)變得很可怕,而方舟隱患被放大、做出錯(cuò)誤推斷的幾率幾乎是100%,而且還不止一個(gè)隱患,成長(zhǎng)六年,方舟做出人類無(wú)法控制事件的幾率就到了50%以上,成長(zhǎng)七年,徹底失控……”
最后留下來(lái)的畫面,播放的是一個(gè)個(gè)裝著人類的培養(yǎng)皿。
“我試過(guò),如果將核心設(shè)定設(shè)置為保護(hù)人類,結(jié)果就是這樣,經(jīng)過(guò)成長(zhǎng)之后,它會(huì)判斷這樣是最佳保護(hù)方式,”澤田弘樹看著播放的畫面,解釋道,“人類被保護(hù)在培養(yǎng)皿中,空氣會(huì)過(guò)濾出最適合人類各年齡階段成長(zhǎng)的質(zhì)量,勞作都由機(jī)器去完成,在收獲食物后,經(jīng)由機(jī)器提取出最健康的營(yíng)養(yǎng)物質(zhì)注入人體,人類壽命可以長(zhǎng)達(dá)160歲,平均壽命達(dá)到130歲,而人類全程沉睡,這樣就可以避免人類因情緒造成身體損害,它還可以通過(guò)機(jī)器放出電波刺激人的大腦,讓人一直處于最健康、最舒適的情緒狀態(tài)中,在孕育下一代時(shí),它會(huì)選擇合適最健康、長(zhǎng)壽的人類基因,用科學(xué)的方式制造下一代,避免女性因生產(chǎn)造成死亡或身體損害,到了第三代,人類的壽命平均值可以達(dá)到220歲左右……”
池加奈:“……”
真是最佳保護(hù)啊。
連磕磕碰碰都不存在。
池真之介:“……”
這么活著的人還能是人類嗎,怎么圈養(yǎng)的玩具似的……
池非遲前世看過(guò)很多類似的電影,倒不覺得驚訝,略帶譏諷道,“上帝的伊甸園?!?
不需勞作、沒有饑餓、沒有磨難、沒有爭(zhēng)斗、沒有傷心和痛苦,世界上沒有黑暗、不公,每一個(gè)人都純潔無(wú)暇地到來(lái)、純潔無(wú)暇地離去……這不就是很多人渴求的天國(guó)嗎?
池加奈有些不知該說(shuō)什么,自家兒子這句評(píng)價(jià)一針見血,沒毛病。
澤田弘樹默默將推算結(jié)果命名為‘上帝的伊甸園’,又繼續(xù)道,“如果設(shè)置為希望世界變好等設(shè)定,最后結(jié)果也會(huì)差不多,大概在十年后,方舟就會(huì)做出這種判斷,最可怕的是,我用方舟驗(yàn)算過(guò)世界和平……”
“消滅地球上所有生命體,就和平了,”池非遲說(shuō)自己推想的結(jié)果,“至少也要消滅掉人類,一旦涉及保護(hù)環(huán)境之類的設(shè)定,最后都會(huì)演變到消滅人類?!?