第(2/3)頁

    收入也沒有被考慮到。當(dāng)時開發(fā)忒彌斯的兩個程序員顯然沒有考慮到世界上仍存在大量的低收入群體，導(dǎo)致了一些面對窮人的不公。比如，“富人為學(xué)校捐錢可以換取入學(xué)資格”這種事，他們認(rèn)為并不算壞，因為捐助可以讓學(xué)校發(fā)展得更好——卻忽視了由此可能導(dǎo)致的可怕后果。

    在忒彌斯2.0系統(tǒng)中，開發(fā)人員吸取教訓(xùn)，從全球人群中抽樣出一個群體，用他們的特征來訓(xùn)練子系統(tǒng)，然后再將數(shù)量擴增至60億，來具體判斷一件事的性質(zhì)，或者說，它“是否符合道德”。

    抽樣人群多達數(shù)萬人。人類的大部分道德評判要素都被這些人概括：性別，階級，信仰……開發(fā)人員相信，這一系統(tǒng)可以為一切道德困境，做出二元的判斷。

    這一年便被劃為新控制論時代開始的元年。它的誕生帶著歷史的必然：隨著全球經(jīng)濟與人口素質(zhì)的提高，人們越發(fā)呼吁一種可以仲裁一切終端的強力機器。這一機器的物質(zhì)實體是正冉冉升起的世界政府，而它的內(nèi)在構(gòu)造，就是忒彌斯等一系列道德評判系統(tǒng)。

    小到夫妻吵架，大到超級大國間的爭端，由于熱核戰(zhàn)爭之后人們對武力的極端厭惡，所有人都趨向于使用文明的方式來解決。而如果使用法官審判，誰來審判法官？如果使用陪審團討論，又如何顧及法庭之外，億萬蕓蕓眾生？

    但也不能真的讓一切事情都交給一切人來評判。總不能因為你和水管維修工的糾紛，就叫數(shù)十億人進行一場只有兩個選擇的投票。

    代替人類進行評判的系統(tǒng)必須存在，它還必須盡可能接近人類群體本身。

    如果把全人類比做一個巨人，那忒彌斯2.0就好比一個侏儒。雖然小得多，卻仍舊五官完整，四肢健全。

    忒彌斯2.0很好的處理了大量的疑難問題。比如，“老婆和媽掉水里了該救哪個？”的答案認(rèn)為應(yīng)該救媽。畢竟不是每個人都有老婆，但基本每個人都有媽。

    再比如，“為了修建太空電梯犧牲兩萬人是否應(yīng)該？”，人們的答案壓倒性的表示不應(yīng)該。因為沒人見過太空電梯，但大家都知道死的兩萬人可能是自己。

    也就是這時，忒彌斯2.0暴露出了它仍舊存在的問題：時效性。自世界政府成立，系統(tǒng)上線以來已經(jīng)度過了近百年。在這百年之中，人們積累了修建太空電梯的所有技術(shù)，卻仍因為可能存在的犧牲導(dǎo)致根本無法通過系統(tǒng)的道德性判斷。

    類似的問題還有很多。克隆技術(shù)下誕生的克隆人合法性問題亟待解決，多性別婚姻與物種雜交的新形勢等待方案，自由主義盛行的年代里人們有沒有反對自由的自由，而人人平等的權(quán)利架構(gòu)下，生育這件事又該怎么納入統(tǒng)籌。這些問題，已經(jīng)遠(yuǎn)不是多年前的一些老舊系統(tǒng)能夠解決的了。

    當(dāng)然，保守主義者會認(rèn)為，如果我們和道德相悖，恰好證明我們走錯了路。但激進主義者認(rèn)為，一群面對“是否支持雙性別半人馬與植入復(fù)制版人類意識的四足機器人開展大規(guī)模婚配”的問題只會選“是”的系統(tǒng)，已經(jīng)遠(yuǎn)遠(yuǎn)落后于時代了。

    你問為什么忒彌斯2.0里的那些系統(tǒng)只會選“是”？因為它們看不懂問題，只能蒙第一個。

    邁向未來的第一步雖艱難卻仍需大膽前進。世界政府作了這幾百年來唯一一個“不合法”的決定：對忒彌斯2.0進行升級。諷刺的是，那些子系統(tǒng)似乎全都知道忒彌斯拆除后自己的命運，所以一律反對升級，但世界政府破除萬難，在人口普查的同時開展了一次覆蓋所有算得上“人”的家伙的投票，結(jié)果大家一致同意。

    為什么同意？因為其實大部分人也不明白這個系統(tǒng)有啥用，蒙了第一個選項。

    忒彌斯3.0誕生的紀(jì)念儀式上，世界政府的首席行政人員，也叫大交互員，宣讀了新系統(tǒng)對人類發(fā)展的重要意義。

    “最新版的忒彌斯系統(tǒng)連接著每個人的腦機接口，數(shù)據(jù)接駁服務(wù)器或者生物質(zhì)腦組織。從今往后，我們會以每天一次的頻率，對全人類的意識進行采樣，再將海量的數(shù)據(jù)映射到忒彌斯系統(tǒng)之中。換言之，面對所有問題，我們將團結(jié)每一個人，給出最中肯，最符合道德的答案。全人類的同理心，將共同投影在這一塊小小的設(shè)備中，綻放出無可比擬的道德光輝。”

    為了紀(jì)念這種光輝，儀式所在的廣場被命名為“道德高地”。從此，如果誰真的站在道德高地上靠近忒彌斯系統(tǒng)，那他可能真的有資格對你進行道德綁架。

    改版的忒彌斯3.0系統(tǒng)實現(xiàn)了一種幾乎不可能的道德審判方式，即讓全人類站在你面前面對你小小的糾結(jié)。有49.7％的人類支持你下午稱病逃課，有36.2％的人類支持你去吻心中所愛的那個機器人姑娘，有89.7％的人支持你為了拯救人類犧牲自我——雖說這個是問著玩的。

    所以，當(dāng)你的老師嚴(yán)厲的盯著你，說有63.2％的人認(rèn)為不交作業(yè)應(yīng)該受罰的時候，她很可能是認(rèn)真的。
    第(2/3)頁