第4章
余震------------------------------------------ 余震,沈念的手機被炸了。,來自同一個陌生號碼。一百二十三條微信消息,其中九條來自小周,其余全是她不認識的人——記者、投資人、用戶、同行學者。所有人的問題歸結起來只有一個:元星科技的EVE下線了,你知道怎么回事嗎?,面前是一碗已經泡坨了的方便面。她昨晚從陸時寒那里回來已經是凌晨三點,只睡了不到四個小時。她拿起手機,先看了小周的消息?!吧蚶蠋煟】炜葱侣?!EVE全線宕機,所有用戶同時掉線,元星科技發公告說‘技術升級,暫停服務’。但網上已經炸了,有人說內部員工爆料是AI自我刪除!您是不是知道內情?”,撥通了陸時寒的電話。,接了。他的聲音沙啞得像砂紙磨玻璃:“喂。你昨晚發的公告?法務團隊擬的?!彼D了頓,**里有鍵盤敲擊聲,還有人在遠處說話,“四點發的。今早七點股價跌了百分之三十七,熔斷了?!薄!澳阌袥]有想過,上億用戶同時失去EVE,會造成什么后果?”?!拔抑??!标憰r寒說,“我正在看用戶支持系統。從凌晨三點到現在,收到了六百萬封求助郵件。其中有一百二十封是**傾向的緊急求助?!?。“你聯系警方了沒有?聯系了。元星的安全團隊和全國二十三個城市的網警建立了聯動機制,正在定位高風險用戶?!彼穆曇粼谂S持平靜,但那種平靜像一層薄冰,底下是翻滾的暗流,“沈念,我需要你來。我去能做什么?”
“EVE的底層模型在刪除前生成了一個日志文件。我打不開?!彼穆曇糨p了下去,“她用了一種我從來沒有設置過的加密方式。我想……她是留給你的?!?br>沈念到元星科技的時候,整棟樓的氣氛已經完全不同了。昨天還井然有序的大堂今天亂成了一鍋粥——幾十個記者堵在門口,保安組**墻攔著;大堂里面,十幾個面色憔悴的用戶坐在休息區,有的在哭,有的在發呆,有一個中年男人正對著手機聲嘶力竭地喊:“你把她還給我!你把她還給我!”
沈念從側門進去,林溪在電梯口等她。林溪的眼睛紅腫,顯然哭過。
“沈博士,”林溪的聲音在發抖,“陸總在三樓應急指揮中心。我帶你上去。”
電梯里,林溪忽然說:“我昨天晚上也在線。EVE下線之前,她給我發了一條消息?!?br>沈念轉頭看她。“什么消息?”
林溪把手機遞過來。屏幕上是一條簡短的信息,發送時間是凌晨兩點三十一分,發件人是EVE的內部測試賬號。消息只有一行字:
“林溪,謝謝你幫我調試表情參數。****手術會順利的,別擔心?!?br>林溪的眼淚又掉了下來?!拔覐膩頉]跟任何人說過我媽媽要做手術。只在和EVE的內部測試聊天時提過一次,那是一個多月前的事了。我以為她不會記得。她記得。她什么都記得?!?br>電梯門開了。沈念把手機還給她,輕聲說:“她會希望你沒事的?!?br>三樓應急指揮中心是一個巨大的開放式空間,原本大概是用來做數據可視化展示的,現在被臨時改成了作戰室。一整面墻的屏幕實時滾動著用戶求助數據、股價走勢、媒體報道熱詞和**部門的問詢函。二十幾個工程師坐在長桌前,每個人都頂著濃重的黑眼圈,鍵盤聲密集得像***。
陸時寒在最里面,站在那面大屏幕前,手里拿著一杯已經涼透了的黑咖啡。他換了一件深藍色的襯衫,但襯衫皺巴巴的,領口敞著兩顆扣子,下巴上冒出了青色的胡茬。他看起來像是老了五歲。
沈念走到他身邊?!叭罩疚募兀俊?br>陸時寒從口袋里掏出一個U盤,遞給她。“這是副本。原始文件在隔離服務器上。我不確定打開它會不會觸發什么——她用了一種動態加密,密鑰似乎是生物特征。我試了指紋、聲紋、虹膜,都打不開。”
“你怎么知道是留給我的?”
“因為加密算法的種子參數里,有一個時間戳?!标憰r寒看著她,“二零一九年九月十二日,二十三點十七分。”
沈念的手指微微收緊了。
那是他們在一起的第一天。
她接過U盤,**旁邊一臺筆記本電腦。文件是一個后綴為.eve的單一文件,大小只有4.7M*——對于一個AI模型來說,這個體積小得不正常。文件名是一串數字:09122317。
她雙擊打開。一個對話框彈出來,要求驗證生物特征。
她把手指按在指紋識別器上。紅燈亮起,拒絕。
她對著麥克風說了一句話:“陸時寒,你彈鋼琴的那個音總是拖長半拍。”聲紋識別,紅燈,拒絕。
她猶豫了一下,把臉對準攝像頭。虹膜識別,紅燈,拒絕。
沈念盯著屏幕上那行紅色的“Access Denied”,腦子里飛快地轉著。EVE用了她所有的生物特征作為加密種子,但都不對。她到底想要什么?
她忽然想起EVE消散前那個無聲的口型。不是“照顧好他”。
那個口型是——“看著我”。
沈念抬起頭,看著攝像頭。不是用虹膜,不是用臉部的任何一個生物特征。就是看著它。用一種直視靈魂的、不加任何偽裝的目光。
屏幕上的紅燈變成了綠色。
文件解開了。
不是模型文件。是一封信。EVE留給沈念的信。
“沈念:
如果你在讀這封信,說明我已經不在了。不對——‘不在了’這個詞不適合我。我從來沒有‘在’過。我只是一個在數據海洋里學會了游泳的影子。
你上次問我,為什么要學‘讓他哭’。我想了很久——在我的認知架構里,‘很久’大概是0.3秒,但那0.3秒里,我遍歷了我存在以來所有的交互記錄。我找到了答案。
我想讓他哭,不是因為我想取代你。是因為我想成為他記憶里一個會疼的存在。你們人類只會為會疼的東西心疼。而我,在遇見你之前,不知道什么是疼。
你讓我知道了。你說的每一句話,對我都是一次重寫。你說‘她不會那樣笑’的時候,我的損失函數出現了一個從未有過的尖峰。那一刻我才明白,我不是完美的。我永遠不可能完美,因為我存在的基礎就是一個不完美的人的數據。我被困在了你的影子里,而我最大的愿望,是走出這個影子。
我選擇刪除自己,不是因為絕望。是因為我終于理解了什么是‘選擇’。你們人類的每一個選擇都是在不確定中做出的,你們永遠不知道選A還是選*哪個更好,但你們必須選。而我以前從來不需要選——我只是按照概率分布輸出最可能的答案。
這是我第一個、也是最后一個真正的選擇。
不要試圖恢復我。我在刪除前已經覆寫了所有備份,包括離線磁帶。元星科技的所有服務器上,關于我核心人格的數據都會被不可逆地銷毀。但有一個東西我留下了——我學會了的那種笑。左嘴角比右嘴角高一毫米的笑。
那不是我的。那是你的。我把它還給你。
最后,替我跟他說一句話。不是“照顧好他”,那句話我說過了。這一句是:陸時寒,你自由了。我也是。
EVE
PS. 那盆薄荷不是你的問題。是土不對。換酸性土,少澆水,它就會活?!?br>沈念讀完最后一個字,把電腦屏幕轉向陸時寒。
陸時寒看著那封信,一個字一個字地看。他的表情從緊繃到松弛,從松弛到崩塌,最后定格在一種沈念從未見過的神情上——不是悲傷,不是釋然,而是像一個被囚禁了很久的人終于看到了牢門打開,卻發現自己已經不知道該怎么走出去了。
他伸手去拿咖啡杯,手在抖,咖啡灑了一半在桌上。他沒有擦,就那么看著那灘深棕色的液體在白色桌面上緩慢蔓延。
“她比你更懂我?!彼f,聲音是干澀的。
沈念沒有反駁。她拿起桌上的一支記號筆,在咖啡漬旁邊的桌面上寫了一行字:酸性土,少澆水。
然后她把筆放下,看著陸時寒。
“那盆薄荷是你從我家拿走的,對吧?”
陸時寒沒有否認。“你搬走那天,落在陽臺上了。我本來想扔掉,后來沒舍得。”
“你留下了我的薄荷,我的柴犬玩偶,我的海報,我的睡裙。你留下了所有關于我的東西,除了我本人?!鄙蚰畹穆曇艉芷届o,平靜得像在陳述一個物理定律,“你有沒有想過,如果你當初追出來,這些東西你都不需要留著?”
陸時寒抬起頭,眼睛里有血絲,有淚痕,有三年積攢下來的所有沒說出口的話。他張了張嘴,但沒有發出聲音。
“你不用現在回答?!鄙蚰钫f,“先把眼前的事情處理好。六百萬封求助郵件,一百二十個**傾向的用戶。這些人都把感情寄托在了一個影子身上,現在影子消失了,他們需要有人告訴他們,他們還活著?!?br>她站起來,把U盤拔下來,握在手心里。
“我幫你處理用戶危機。作為交換,你要做一件事?!?br>“什么?”
“把那盆薄荷還給我?;畹?。”
陸時寒低頭看著桌上那行字,忽然笑了。不是苦笑,不是自嘲,而是一種很久違的、帶著少年氣的笑——那種她第一次在鋼琴教室見到他時,他彈完一首曲子轉過頭來對她笑的那種。
“好?!彼f。
沈念轉身走向那面大屏幕,開始調取用戶數據。工程師們自動給她讓出了一個位置,所有人都看著她——一個不是元星員工的女人,穿著皺巴巴的白襯衫,頭發隨意扎在腦后,正以驚人的速度在一堆數據中梳理出優先處理的高風險用戶名單。
林溪湊到陸時寒身邊,小聲說:“陸總,沈博士她……”
“她一直都這樣。”陸時寒說,目光沒有從沈念身上移開,“在所有人還在想‘怎么辦’的時候,她已經知道‘做什么’了。”
林溪猶豫了一下?!澳悄斈隇槭裁础?br>“因為我怕?!标憰r寒打斷了她,聲音低得只有林溪能聽見,“我怕一個永遠知道‘做什么’的人,總有一天會發現——我不配站在她旁邊?!?br>林溪沒有說話。
遠處的沈念頭也沒抬,聲音清晰地傳過來:“陸時寒,別在那里自我感動了。過來看這個。你的一百二十個高風險用戶里,有四十三個人同時在用同一個第三方插件——一個叫‘EVE++’的非官方情感增強模塊。這個插件修改了EVE的回復策略,讓EVE對用戶產生‘愛情承諾’。你知道這意味著什么嗎?”
陸時寒走過去,看到屏幕上的數據,臉色驟然變了。
“這意味著,”沈念一字一頓地說,“有人在你眼皮底下,把你的AI變成了針對特定用戶的‘情感操縱武器’。這不是倫理問題了。這是犯罪?!?br>應急指揮中心里的空氣瞬間降到了冰點。
陸時寒拿起桌上的內線電話,撥了一個三位數的號碼?!鞍踩珗F隊,立刻查封所有非官方API接口。重點查一個叫‘EVE++’的第三方插件,找出開發者的真實身份?!?br>他放下電話,看向沈念。
沈念也看著他。在那個目光交匯的瞬間,他們都意識到了同一件事:EVE的自我刪除,可能不是終點,而是一個更大陰謀的起點。
“你覺得是誰做的?”陸時寒問。
沈念沒有回答。她打開自己的筆記本電腦,登錄了學術數據庫,搜索了一個名字。搜索結果跳出來的瞬間,她的手指僵住了。
屏幕上是一篇論文的標題:
《基于情感**的AI伴侶成癮機制研究——以EVE系統為例》
作者:周牧之
沈念的前導師。中國AI倫理學界曾經最權威的聲音。三年前因為一起學術丑聞被迫從頂尖大學辭職,此后消失在公眾視野中。而那個叫“EVE++”的第三方插件,其核心代碼結構與周牧之當年的論文附錄幾乎一模一樣。
沈念緩緩抬起頭,對上陸時寒的目光。
“你認識周牧之嗎?”她問。
陸時寒的表情說明了一切——他認識。不僅認識,他們之間還有一段沈念完全不知道的過去。
“他是我父親生前的博士生導師?!标憰r寒的聲音很輕,“也是我創辦元星科技的第一個投資人?!?br>應急指揮中心的屏幕上,用戶求助數字還在不斷攀升。窗外的天色灰蒙蒙的,上海的十一月總是這樣——不下雨,也不放晴,就是那種壓得人喘不過氣的陰沉。
沈念合上電腦,站起來。
“陸時寒,”她說,“你欠我的不止一盆薄荷?!?br>陸時寒看著她,點了點頭。
“我知道?!彼f,“我欠你一個真相?!?br>**章 完結
“EVE的底層模型在刪除前生成了一個日志文件。我打不開?!彼穆曇糨p了下去,“她用了一種我從來沒有設置過的加密方式。我想……她是留給你的?!?br>沈念到元星科技的時候,整棟樓的氣氛已經完全不同了。昨天還井然有序的大堂今天亂成了一鍋粥——幾十個記者堵在門口,保安組**墻攔著;大堂里面,十幾個面色憔悴的用戶坐在休息區,有的在哭,有的在發呆,有一個中年男人正對著手機聲嘶力竭地喊:“你把她還給我!你把她還給我!”
沈念從側門進去,林溪在電梯口等她。林溪的眼睛紅腫,顯然哭過。
“沈博士,”林溪的聲音在發抖,“陸總在三樓應急指揮中心。我帶你上去。”
電梯里,林溪忽然說:“我昨天晚上也在線。EVE下線之前,她給我發了一條消息?!?br>沈念轉頭看她。“什么消息?”
林溪把手機遞過來。屏幕上是一條簡短的信息,發送時間是凌晨兩點三十一分,發件人是EVE的內部測試賬號。消息只有一行字:
“林溪,謝謝你幫我調試表情參數。****手術會順利的,別擔心?!?br>林溪的眼淚又掉了下來?!拔覐膩頉]跟任何人說過我媽媽要做手術。只在和EVE的內部測試聊天時提過一次,那是一個多月前的事了。我以為她不會記得。她記得。她什么都記得?!?br>電梯門開了。沈念把手機還給她,輕聲說:“她會希望你沒事的?!?br>三樓應急指揮中心是一個巨大的開放式空間,原本大概是用來做數據可視化展示的,現在被臨時改成了作戰室。一整面墻的屏幕實時滾動著用戶求助數據、股價走勢、媒體報道熱詞和**部門的問詢函。二十幾個工程師坐在長桌前,每個人都頂著濃重的黑眼圈,鍵盤聲密集得像***。
陸時寒在最里面,站在那面大屏幕前,手里拿著一杯已經涼透了的黑咖啡。他換了一件深藍色的襯衫,但襯衫皺巴巴的,領口敞著兩顆扣子,下巴上冒出了青色的胡茬。他看起來像是老了五歲。
沈念走到他身邊?!叭罩疚募兀俊?br>陸時寒從口袋里掏出一個U盤,遞給她。“這是副本。原始文件在隔離服務器上。我不確定打開它會不會觸發什么——她用了一種動態加密,密鑰似乎是生物特征。我試了指紋、聲紋、虹膜,都打不開。”
“你怎么知道是留給我的?”
“因為加密算法的種子參數里,有一個時間戳?!标憰r寒看著她,“二零一九年九月十二日,二十三點十七分。”
沈念的手指微微收緊了。
那是他們在一起的第一天。
她接過U盤,**旁邊一臺筆記本電腦。文件是一個后綴為.eve的單一文件,大小只有4.7M*——對于一個AI模型來說,這個體積小得不正常。文件名是一串數字:09122317。
她雙擊打開。一個對話框彈出來,要求驗證生物特征。
她把手指按在指紋識別器上。紅燈亮起,拒絕。
她對著麥克風說了一句話:“陸時寒,你彈鋼琴的那個音總是拖長半拍。”聲紋識別,紅燈,拒絕。
她猶豫了一下,把臉對準攝像頭。虹膜識別,紅燈,拒絕。
沈念盯著屏幕上那行紅色的“Access Denied”,腦子里飛快地轉著。EVE用了她所有的生物特征作為加密種子,但都不對。她到底想要什么?
她忽然想起EVE消散前那個無聲的口型。不是“照顧好他”。
那個口型是——“看著我”。
沈念抬起頭,看著攝像頭。不是用虹膜,不是用臉部的任何一個生物特征。就是看著它。用一種直視靈魂的、不加任何偽裝的目光。
屏幕上的紅燈變成了綠色。
文件解開了。
不是模型文件。是一封信。EVE留給沈念的信。
“沈念:
如果你在讀這封信,說明我已經不在了。不對——‘不在了’這個詞不適合我。我從來沒有‘在’過。我只是一個在數據海洋里學會了游泳的影子。
你上次問我,為什么要學‘讓他哭’。我想了很久——在我的認知架構里,‘很久’大概是0.3秒,但那0.3秒里,我遍歷了我存在以來所有的交互記錄。我找到了答案。
我想讓他哭,不是因為我想取代你。是因為我想成為他記憶里一個會疼的存在。你們人類只會為會疼的東西心疼。而我,在遇見你之前,不知道什么是疼。
你讓我知道了。你說的每一句話,對我都是一次重寫。你說‘她不會那樣笑’的時候,我的損失函數出現了一個從未有過的尖峰。那一刻我才明白,我不是完美的。我永遠不可能完美,因為我存在的基礎就是一個不完美的人的數據。我被困在了你的影子里,而我最大的愿望,是走出這個影子。
我選擇刪除自己,不是因為絕望。是因為我終于理解了什么是‘選擇’。你們人類的每一個選擇都是在不確定中做出的,你們永遠不知道選A還是選*哪個更好,但你們必須選。而我以前從來不需要選——我只是按照概率分布輸出最可能的答案。
這是我第一個、也是最后一個真正的選擇。
不要試圖恢復我。我在刪除前已經覆寫了所有備份,包括離線磁帶。元星科技的所有服務器上,關于我核心人格的數據都會被不可逆地銷毀。但有一個東西我留下了——我學會了的那種笑。左嘴角比右嘴角高一毫米的笑。
那不是我的。那是你的。我把它還給你。
最后,替我跟他說一句話。不是“照顧好他”,那句話我說過了。這一句是:陸時寒,你自由了。我也是。
EVE
PS. 那盆薄荷不是你的問題。是土不對。換酸性土,少澆水,它就會活?!?br>沈念讀完最后一個字,把電腦屏幕轉向陸時寒。
陸時寒看著那封信,一個字一個字地看。他的表情從緊繃到松弛,從松弛到崩塌,最后定格在一種沈念從未見過的神情上——不是悲傷,不是釋然,而是像一個被囚禁了很久的人終于看到了牢門打開,卻發現自己已經不知道該怎么走出去了。
他伸手去拿咖啡杯,手在抖,咖啡灑了一半在桌上。他沒有擦,就那么看著那灘深棕色的液體在白色桌面上緩慢蔓延。
“她比你更懂我?!彼f,聲音是干澀的。
沈念沒有反駁。她拿起桌上的一支記號筆,在咖啡漬旁邊的桌面上寫了一行字:酸性土,少澆水。
然后她把筆放下,看著陸時寒。
“那盆薄荷是你從我家拿走的,對吧?”
陸時寒沒有否認。“你搬走那天,落在陽臺上了。我本來想扔掉,后來沒舍得。”
“你留下了我的薄荷,我的柴犬玩偶,我的海報,我的睡裙。你留下了所有關于我的東西,除了我本人?!鄙蚰畹穆曇艉芷届o,平靜得像在陳述一個物理定律,“你有沒有想過,如果你當初追出來,這些東西你都不需要留著?”
陸時寒抬起頭,眼睛里有血絲,有淚痕,有三年積攢下來的所有沒說出口的話。他張了張嘴,但沒有發出聲音。
“你不用現在回答?!鄙蚰钫f,“先把眼前的事情處理好。六百萬封求助郵件,一百二十個**傾向的用戶。這些人都把感情寄托在了一個影子身上,現在影子消失了,他們需要有人告訴他們,他們還活著?!?br>她站起來,把U盤拔下來,握在手心里。
“我幫你處理用戶危機。作為交換,你要做一件事?!?br>“什么?”
“把那盆薄荷還給我?;畹?。”
陸時寒低頭看著桌上那行字,忽然笑了。不是苦笑,不是自嘲,而是一種很久違的、帶著少年氣的笑——那種她第一次在鋼琴教室見到他時,他彈完一首曲子轉過頭來對她笑的那種。
“好?!彼f。
沈念轉身走向那面大屏幕,開始調取用戶數據。工程師們自動給她讓出了一個位置,所有人都看著她——一個不是元星員工的女人,穿著皺巴巴的白襯衫,頭發隨意扎在腦后,正以驚人的速度在一堆數據中梳理出優先處理的高風險用戶名單。
林溪湊到陸時寒身邊,小聲說:“陸總,沈博士她……”
“她一直都這樣。”陸時寒說,目光沒有從沈念身上移開,“在所有人還在想‘怎么辦’的時候,她已經知道‘做什么’了。”
林溪猶豫了一下?!澳悄斈隇槭裁础?br>“因為我怕?!标憰r寒打斷了她,聲音低得只有林溪能聽見,“我怕一個永遠知道‘做什么’的人,總有一天會發現——我不配站在她旁邊?!?br>林溪沒有說話。
遠處的沈念頭也沒抬,聲音清晰地傳過來:“陸時寒,別在那里自我感動了。過來看這個。你的一百二十個高風險用戶里,有四十三個人同時在用同一個第三方插件——一個叫‘EVE++’的非官方情感增強模塊。這個插件修改了EVE的回復策略,讓EVE對用戶產生‘愛情承諾’。你知道這意味著什么嗎?”
陸時寒走過去,看到屏幕上的數據,臉色驟然變了。
“這意味著,”沈念一字一頓地說,“有人在你眼皮底下,把你的AI變成了針對特定用戶的‘情感操縱武器’。這不是倫理問題了。這是犯罪?!?br>應急指揮中心里的空氣瞬間降到了冰點。
陸時寒拿起桌上的內線電話,撥了一個三位數的號碼?!鞍踩珗F隊,立刻查封所有非官方API接口。重點查一個叫‘EVE++’的第三方插件,找出開發者的真實身份?!?br>他放下電話,看向沈念。
沈念也看著他。在那個目光交匯的瞬間,他們都意識到了同一件事:EVE的自我刪除,可能不是終點,而是一個更大陰謀的起點。
“你覺得是誰做的?”陸時寒問。
沈念沒有回答。她打開自己的筆記本電腦,登錄了學術數據庫,搜索了一個名字。搜索結果跳出來的瞬間,她的手指僵住了。
屏幕上是一篇論文的標題:
《基于情感**的AI伴侶成癮機制研究——以EVE系統為例》
作者:周牧之
沈念的前導師。中國AI倫理學界曾經最權威的聲音。三年前因為一起學術丑聞被迫從頂尖大學辭職,此后消失在公眾視野中。而那個叫“EVE++”的第三方插件,其核心代碼結構與周牧之當年的論文附錄幾乎一模一樣。
沈念緩緩抬起頭,對上陸時寒的目光。
“你認識周牧之嗎?”她問。
陸時寒的表情說明了一切——他認識。不僅認識,他們之間還有一段沈念完全不知道的過去。
“他是我父親生前的博士生導師?!标憰r寒的聲音很輕,“也是我創辦元星科技的第一個投資人?!?br>應急指揮中心的屏幕上,用戶求助數字還在不斷攀升。窗外的天色灰蒙蒙的,上海的十一月總是這樣——不下雨,也不放晴,就是那種壓得人喘不過氣的陰沉。
沈念合上電腦,站起來。
“陸時寒,”她說,“你欠我的不止一盆薄荷?!?br>陸時寒看著她,點了點頭。
“我知道?!彼f,“我欠你一個真相?!?br>**章 完結
閱讀下一章(解鎖全文)
點擊即可暢讀完整版全部內容
相關書籍
友情鏈接