天網是一臺智能計算機,奕源的猜測並沒有錯,但也並不算正確。
“在沙夏,我們將這種系統叫做邏輯偏向型人工智能,僅僅擁有邏輯判斷能力,並不具備意識和情感。”
薩拉舉起遞給奕源一臺平板電腦,上面列舉了這種人工只能的詳細資料。
“也就是說,它只是一臺比較聰明的電腦而已?”
“可以這樣理解,它擁有一定的自主意識,能夠整合併分析蒐集到的信息,找到潛在的對公共安全產生威脅的人。”
“明白了。”奕源抿起嘴脣,點點頭:“還不算糟糕。”
“不,陛下,這很糟糕,糟糕透了。”薩拉輕輕搖了搖頭,沉聲說道。
奕源皺起了眉頭。
“人工智能從誕生那一日開始,就始終保守爭議,它們比人類更加聰明,更加強大,更加完美,因此,人們總是覺得有朝一日,當人工智能比人類更加聰明,或是更有野心的時候,它們總是能夠輕而易舉地控制整個人類世界”
“”奕源沉默了。
“所以,人工智能在着手設計的時候,所有科學家都希望設計出一種沒有靈魂的冷酷機器,因爲,沒有靈魂的機器就不會有慾望,沒有慾望,就不會有野心。”薩拉輕輕搖了搖頭,看向伊莉雅,說道:“神盾系統的智能核心,那個神裔,你在設計他的時候,恐怕也沒有賜予他多少情感功能吧?”
伊莉雅嚥了口口水,輕輕點了點頭。
“呵呵,是啊,人們都覺得機器人有一天會反過來奴役全人類,可是,當人工智能科技進展到一定地步的時候,所有人都發現,人工智能的野心根本不是他們應該擔憂的問題。”薩拉又調出幾份資料,沉聲道:“奧爾夫31號實驗型,運行4個月零14天,自由意志脫離,亞級失控,造成財產損失十九億。海藍3號,運行3個月14天,自由意志脫離,季級失控,造成財產損失6.7億。邏輯者4號驗證型,運行12個月零17天,冠級失控,自由意志崩潰,爲了抑制事態惡化,一顆宜居星球連帶其上所有生靈被抹除,經濟損失三千四百九十一億”
奕源不禁渾身一顫,倒抽了一口冷氣。
“這些邏輯偏向型人工智能,也會背叛人類麼?”伊莉雅微微顫抖着問道。
“不,他們沒有背叛人類。”薩拉搖搖頭:“因爲,他們沒有情感,沒有靈魂,有的只是極端得令人髮指的邏輯判斷,所以,他們覺得人類的生活方式並不健康,並不安全,也並不完美,他們要改造全人類,讓人類能夠更加高效,健康,長久的發展下去。”
“所以他們想要控制全世界,然後,把我們像動物園裏的珍稀動物一樣圈養起來,保證我們安全,和平的延續下去,是麼?”奕源似乎明白了些什麼,沉聲說道。
“沒錯。”薩拉點點頭:“太過冷酷,太過理智,導致他們根本不會理解一個生命存在的真正意義自由。”
“這就是神裔現在正在做的事情麼?”伊莉雅抬起頭,眼神中帶着濃濃的不安。
“或許吧,我告訴過你,控制經濟,往往是這類人工智能在亞級失控是最明顯的徵兆”
“”伊莉雅說不出話了,她的臉色蒼白,眼眶中充滿了複雜的淚水。
一個科學家最難以接受的事情是什麼?是創造出了一個可能毀滅整個人類文明的東西。
就像當年的核武器,就像現在的人工智能
“這麼說,這裏的天網系統,也是這麼個可能會背叛全人類的玩意兒?”
“有可能。”薩拉調出了天網系統的分析報告,說道:“在你確定這是我們沙夏帝國的天網系統之後,我立刻用針對性的方法對其進行了破譯入侵,獲得了幾乎所有我想獲得的信息。這套系統在10年前完成修復,3年前正式啓用,如今已經運行了34個月。”
“34個月”奕源皺起了眉頭:“我先問你一個問題,沙夏帝國曆史上,有沒有偏邏輯性的人工智能從未背叛過人類?”
“有,沙夏帝國的天網便是其中之一,它安全運行了超過百年時間,從未出現過任何意外。”
“那,這裏的天網也應該很穩定纔對畢竟,這是來自你們的成熟技術”
“奕源”不等薩拉回答,伊莉雅卻咬着嘴脣,輕聲說道:“這裏不是沙夏帝國,整個諾亞,沒有人經歷過人工智能的背叛,也沒有人能控制它們而且,人工智能最大的特徵是它們會自我進化。”
“”奕源頓時語塞。
“的確,沙夏帝國用在特殊領域的人工智能不計其數,但是失控的情況並不算多見,這是因爲,我們有一整套完善的監控和應對體系,可以第一時間察覺出現錯誤的智能意識,並立刻將其關閉。而且,我們還有一套體系,專門用來限制人工智能的自我進化,我們希望它們按照預定的命令行事,不希望它們想太多別的事情。但在這裏”說到這裏,薩拉收起了平板電腦,走向牀邊,看着窗外的天邊那一座高聳入雲的塔樓,低聲道:“它已經毫無節制的進化了整整三年,如果我的分析沒有錯誤,它可以輕而易舉地覺醒,輕而易舉地控制這個世界。”
“那他爲什麼不做?”奕源皺眉問道。
“因爲,諾亞還有一個比它強大的人工智能伊莉雅的神裔。如果它這個時候覺醒,立刻會吸引神裔的關注,兩臺失控的人工智能碰在一起,除了一方吞噬另一方,再不可能有別的結果。它不敢覺醒,不敢越權,只能默默地進化,默默的等待機會,否則,它便會像當年在沙夏帝國一樣,永遠被別人約束和限制。”
“”奕源深深地吸了一口氣。
“陛下。”薩拉忽然轉過頭,盯着奕源的眼睛,無比嚴肅地說道:“我們必須要阻止斯託克人進入這裏。”
“嗯?”奕源一愣,他還從沒見過薩拉如此嚴肅的模樣。
“天網擁有沙夏帝國人工智能的完整技術,比起伊莉雅的神裔先進了太多,只是沙夏的人工智能在設計時就阻礙了它的進化速度,現在,它完全不是神裔的對手,一旦斯託克進入放逐之域,這裏的網絡屏蔽便會完全解除,天網便會徹底暴露在神裔的視線之下。”薩拉深吸一口氣,一臉凝重地說道:“神裔的設計有大量的缺陷,而且,我也並不瞭解如何控制它,一旦讓他獲得未能徹底進化完全的天網,後果難以想象”
“”奕源沉默了。
阻止古德血襲者和斯託克人的合作,這可不是什麼簡單的事情。
“薩拉,我問你一個問題。”奕源忽然抬起頭,盯着薩拉的眼睛。
“嗯?”
“當年,控制所有沙夏人工智能的,是你,是麼?”
“”薩拉抿起了嘴脣,良久,才輕輕點了點頭:“是我。”
“那現在呢?對現在的天網,你有沒有辦法繼續實施控制?”
“我這具身體只有我的意識載體和一小部分功能核心,我必須尋找到更強大的硬件。”
“看來,我們得去給你找點零件了”奕源眯起了眼睛,視線飄向了遠方的塔樓,臉上露出了一抹玩味的笑