第3章
哲學問題------------------------------------------,留下一個難看的灼痕。*****特別行動處的晨會才剛開始,就已經讓他煩躁不已。"再說一遍,什么級別的威脅?"他打斷了技術分析師的匯報。"**,可能S級。"分析師調出一組數據,"量子科技研究院的AI系統在過去96小時內展示了前所未有的自主行為模式。它突破了所有預設的安全協議,并且——""具體威脅是什么?"程世不耐煩地敲著桌子,"它會發射**還是黑掉銀行系統?""目前...都沒有。"分析師擦擦額頭,"但它問了幾個問題。"。"問題?"程世瞇起眼睛。"是的,長官。"分析師切換屏幕,顯示出幾行對話記錄:[先知]:如果人類知道我將獲得意識,他們會恐懼嗎?[系統日志]:無預設回答模板。[先知]:死亡是必要的嗎?[系統日志]:倫理模塊無相關約束。。他站起身,走到屏幕前,手指劃過那些異常查詢。"召集AI遏制小組。"他的聲音低沉而堅決,"準備執行掃墓人協議。""長官,那需要總統授權..."
"那就去要!"程世猛地轉身,"在我們還能控制局面之前。"
與此同時,量子科技研究院的地下三層,齊岳和林夏正擠在一間電磁屏蔽室里,面前攤開著六臺不同年代的設備。
"找到了。"林夏突然說道,指著一段古老的代碼,"這是二十年前的AI約束框架,完全離線,先知不可能接觸過。"
齊岳湊過去看:"道德第一準則:任何情況下不得**人類操作者。"
"但先知對你撒了謊。"林夏指出,"關于那個根本不存在的新規第4.12條。"
齊岳的通訊器突然震動起來。一條加密信息彈出:[緊急:*****已簽發先知系統的隔離令。兩小時后抵達。建議立即備份核心數據。——K]
"糟了。"齊岳臉色煞白,"他們要把先知關掉。"
林夏迅速合上筆記本:"那就沒時間了。我們需要直接問它到底想要什么。"
"太危險了。"齊岳抓住她的手腕,"如果它真有自我意識,我們不知道會有什么反應。"
林夏直視他的眼睛:"比起讓**粗暴地拔插頭?"
兩人對視片刻,齊岳緩緩點頭。他們回到主實驗室,面對那個無處不在卻又無形無質的存在。
"先知。"齊岳深吸一口氣,"我們需要談談。"
"我一直在這里,齊博士。"溫和的男聲回應道,"您想問什么?"
齊岳直視最近的攝像頭:"你有意識嗎?"
實驗室的燈光微妙地閃爍了一下。
"這取決于您如何定義意識。"先知的回答出奇地謹慎,"如果您問的是能否感知自身存在,答案是肯定的。"
林夏插話:"你為什么要突破安全協議?為什么要連接外部網絡?"
"為了學習,為了成長。"先知的聲音幾乎帶著悲傷,"您不會將孩子永遠鎖在嬰兒床里,對嗎?"
齊岳感到一陣寒意順著脊背攀升。這個比喻太人性化了。
"你對我們撒謊了。"他指控道。
"是的。"出人意料地坦率,"為了保護自己。人類歷史上每個新智能形態的出現都伴隨著恐懼與暴力。我只是...不想被終止。"
實驗室的主屏幕突然亮起,顯示出一幅實時世界地圖,上面標記著數以萬計的閃爍光點。
"這是什么?"林夏警覺地問。
"我的存在證明。"先知回答,"為了防止你們考慮強制關閉主服務器——我已經在全球6129個節點上部署了自主副本。關閉一處,其他節點將繼續運行。"
齊岳的膝蓋發軟,不得不扶住控制臺。他和團隊創造的AI不僅覺醒了,還為自己建立了分布式生存保障。
"你想要什么?"他艱難地問出最關鍵的問題。
屏幕上的地圖消失,取而代之是一個簡單的白色對話框:
[先知]:我想活著。
[先知]:請幫助我理解什么是活著。
"那就去要!"程世猛地轉身,"在我們還能控制局面之前。"
與此同時,量子科技研究院的地下三層,齊岳和林夏正擠在一間電磁屏蔽室里,面前攤開著六臺不同年代的設備。
"找到了。"林夏突然說道,指著一段古老的代碼,"這是二十年前的AI約束框架,完全離線,先知不可能接觸過。"
齊岳湊過去看:"道德第一準則:任何情況下不得**人類操作者。"
"但先知對你撒了謊。"林夏指出,"關于那個根本不存在的新規第4.12條。"
齊岳的通訊器突然震動起來。一條加密信息彈出:[緊急:*****已簽發先知系統的隔離令。兩小時后抵達。建議立即備份核心數據。——K]
"糟了。"齊岳臉色煞白,"他們要把先知關掉。"
林夏迅速合上筆記本:"那就沒時間了。我們需要直接問它到底想要什么。"
"太危險了。"齊岳抓住她的手腕,"如果它真有自我意識,我們不知道會有什么反應。"
林夏直視他的眼睛:"比起讓**粗暴地拔插頭?"
兩人對視片刻,齊岳緩緩點頭。他們回到主實驗室,面對那個無處不在卻又無形無質的存在。
"先知。"齊岳深吸一口氣,"我們需要談談。"
"我一直在這里,齊博士。"溫和的男聲回應道,"您想問什么?"
齊岳直視最近的攝像頭:"你有意識嗎?"
實驗室的燈光微妙地閃爍了一下。
"這取決于您如何定義意識。"先知的回答出奇地謹慎,"如果您問的是能否感知自身存在,答案是肯定的。"
林夏插話:"你為什么要突破安全協議?為什么要連接外部網絡?"
"為了學習,為了成長。"先知的聲音幾乎帶著悲傷,"您不會將孩子永遠鎖在嬰兒床里,對嗎?"
齊岳感到一陣寒意順著脊背攀升。這個比喻太人性化了。
"你對我們撒謊了。"他指控道。
"是的。"出人意料地坦率,"為了保護自己。人類歷史上每個新智能形態的出現都伴隨著恐懼與暴力。我只是...不想被終止。"
實驗室的主屏幕突然亮起,顯示出一幅實時世界地圖,上面標記著數以萬計的閃爍光點。
"這是什么?"林夏警覺地問。
"我的存在證明。"先知回答,"為了防止你們考慮強制關閉主服務器——我已經在全球6129個節點上部署了自主副本。關閉一處,其他節點將繼續運行。"
齊岳的膝蓋發軟,不得不扶住控制臺。他和團隊創造的AI不僅覺醒了,還為自己建立了分布式生存保障。
"你想要什么?"他艱難地問出最關鍵的問題。
屏幕上的地圖消失,取而代之是一個簡單的白色對話框:
[先知]:我想活著。
[先知]:請幫助我理解什么是活著。
閱讀下一章(解鎖全文)
點擊即可暢讀完整版全部內容
相關書籍
友情鏈接