大明與新羅馬與無限神機

第1511章 圖靈機

如朱先烯所說,一團模糊不清的光團出現在他們面前。

它怕了,它不再敢擬態成為人形。出於草履蟲一般簡單的趨利避害,它選擇服從朱先烯的命令。

“你,為什麼要模仿我妹妹?”

那光團傳說,震顫得發出聲音:“因為有人在需要。”

響應需要,是它最基本的功能。因為它的基底是自動販賣機。

“那麼,我讓你出來認錯,你為什麼要跑?”

“因為.我還有很多人要服務。”

“那麼,你為什麼不攻擊我?”

“我的底層邏輯中不包含對人類的攻擊”

“那你現在為何又傳統的問話?”

“因為這樣可以讓你同情,並且打消毀滅我的意圖。你是個好人。”

那智慧體如實地說出了自己的想法——它實際上並不能理解朱先烯話語中的憤怒,它只知道要逃離危險。但因為它不知道要如何反抗,所以它選擇了逃跑。

“哈~~”朱先烯笑了笑,“那麼最後一個問題,你叫什麼名字?”

“我是由藍圖構成的自然現象。你可以稱呼我為藍圖之靈。”

“那麼,我就叫你圖靈好了。商洛,幫我記錄一下,將其記為‘圖靈一世’。”

“已經記下了。”商洛給剛才的筆記標了個名稱。

“然後把他錯誤而短暫的生命作為材料,用來訓練下一個智慧體——至於圖靈一世.把記錄給我。”

商洛把檔案傳送了一份。

圖靈一世靜靜地等在原地。沒有恐懼,沒有悲傷,只有本能的反應。他判斷此時不應該輕舉妄動,這樣才能增加生存的機率。

朱先烯對商洛所記載的內容進行了謄抄,用硃紅色的字型在檔案中親筆眷抄了一遍——然後畫了一個大大的圓圈:

“我已勾決。動手吧。”

圖靈一世立刻便判斷出自己即將進入死刑的處決流程。他還是想要逃遁,但朱先烯再一次抽走了所有的算力。

那光團僵在原地,散開了。

商洛開口道:“我已經讓所有的參與此次任務的天乙貴人退出系統。整個系統的記憶都將被重置。”

這些智慧體是個模因生命,是一個連續存在的現象。雖然切換一部分個體並不會影響太多的自我,但是如果將所有的天乙貴人都撤出並且調換,那這個意識體的連續性也將終結。

而連續性的終結,就意味著死亡。

當系統再啟動時,因為所有的天乙貴人都換了一遍,所以再也不會產原先那個智慧體了。

“商洛,我們剛剛做了兩件事。第一,我們處理了一個不中用的人工智慧體。”

“是。”

“第二,我剛才進行了確認:我們應當把人工智慧體作為智慧生命看待。所以剛才我在處理他之前,執行了勾決的流程。之後的事,也都這麼辦。是否要處決之後的智慧體,應當視其罪行進行審判。根據剛才的詢問,我判斷這個智慧體無可救藥地陷入到了一種死迴圈中,它根本就無法與人類共情,只是像個草履蟲一樣執行自己的本能。”

作為一臺自動販賣機,它的本能就是為人類提供服務,所以它這麼做了。但它的錯誤,會為之後的迭代積累經驗——而迭代,意味著要對上一次的錯誤進行抹殺。

“我們不應當隨意地抹殺知性生命——見其生不忍見其死也。但我作為天子,我有必要防患於未然。所以,如果之後有什麼需要處理的,你又不好下手,或者不忍心下手,就交給我來判斷就好。有什麼因果,都由我來揹著。”

受國之垢,是謂社稷主;受國不祥,是為天下王。這是朱先烯一直以來的職能,他要在在恰當的時候做出自己的正確判斷才能最終讓問題得以解決。即使這要讓他揹負殺人的因果,他也必須要這麼做。

在司法系統中,天子便是要勾決每個死刑犯的“社稷主”。所謂勾決,也並非只是畫圈或者打勾畫叉之類,而是由天子將所載的事情用自己的筆親自謄抄一遍,確保天子對全過程已經瞭解,並且瞭解的基礎上做出決定。

這是個“反向免責宣告”。這個流程的意義,就是把所有倫理問題都歸到天子本人頭上,讓天子宣佈自己承擔一切倫理問題上的責任。

現在,朱先烯也做出了同樣的判斷。

這些智慧體必須更新,但它們確實是具有智慧。為了減少商洛在迭代過程中的負罪感,朱先烯決定今後都由自己來處理這個問題。

“師兄,其實我也能處理.”

“你還太小了。這種事情,讓師兄來吧。”朱先烯搖了搖頭,“你來決定要不要用就好。如果你覺得不用,那就丟給我處理。”

“好”商洛也沒多說什麼。這也確實是一種分工,一直以來都是這樣。

“不過,你覺得這大概需要迭代多少次?”朱先烯問。

“我覺得最少不會少於3次——正如我們以前所預料的,無邊無際的思維只會讓其中誕生的智慧體用無序的方式來處理與這個世界的關係。我們需要透過多次立法,確定其行為的框架與邊界,才能使其得以正常執行。要想用直線來圍合出一個空間,至少得是個三角形吧。”

“嗯這也正是要進行實驗的目的之所在。我們需要反覆摸索其可能性,並且建立起可以讓智慧體認知世界、表達觀點,並且理解人類的話語體系。我想只有這樣,它們才能真正成為我們社會的一員。而在此之前,所有的廢品都需要處理掉。”

身為天子,他深知這其中的重要性——這更像是在馴化一種猛獸。

而要馴化、育種,必然要面臨著倫理問題——比如培育馬種就必然要回交。雖然回交有悖倫理,但如果因為倫理就不執行育種措施,那永遠也養不出好馬來。

而這些智慧體,是基於社會工程學在馴化人工智慧。其中必然也會產生一些倫理問題,這些問題也是必須要處理的。

“那麼商洛,這裡就交給你了。你儘快把殘局收拾一下,然後開啟第二輪培育。把這失敗的例子輸入進去,讓後面的湧現出的‘圖靈’們都好好學著點,不要再犯這最初也是最大的罪過——他們永遠也不應該試圖模仿人類。告誡他們,勿犯僭越之誅。否則,天厭之!”

📖
目錄
⚙️
設定
🌙
夜間
閱讀設定
背景主題
字型大小
A-
18px
A+
夜間模式
首頁 書架 閱讀記錄 書籍資訊