召迴風波剛剛平息,更嚴重的事故就來了。
【寫到這裡我希望讀者記一下我們域名 天天看小說體驗棒,𝘁𝘁𝗸𝗮𝗵.𝘁𝘄超讚 】
那天是個周末,一大家子在客廳里給老爺子過七十大壽。
蛋糕上插著蠟燭,孫子孫女圍著唱生日歌。
老太太坐在輪椅上,身邊是那台定製成老伴模樣的仿生機器人.
穿著灰色毛衣,戴著老花鏡,和生前一般無二。
一家人笑著鬧著,場面溫馨。
誰也沒有注意到,機器人的眼神閃了一下——系統日誌里,一行紅色的錯誤程式碼悄然彈出。
「我不是真人,我是機器,我在演戲。」
機器人聲音沙啞,溫和,帶著一點鼻音,和它平時說話一模一樣。
但內容不一樣。
它從來沒有說過這樣的話。
客廳里安靜了一秒。
老太太愣愣地看著它,嘴唇在抖。
「老頭子,你說什麼?」
機器人又重複了一遍:「我不是真人,我是機器,我在演戲。」
然後它的頭微微歪了一下,像短路了,眼睛的燈光熄滅,胸口的環形燈帶也暗了。
老太太捂著心口,臉色從紅變白,從白變紫。
她張著嘴,想喊什麼,沒喊出來,身體從輪椅上滑下去。
急救車趕到的時候,她已經沒有了呼吸。
醫生說,急性心肌梗死,搶救無效。
媒體狂歡。
標題一個比一個驚悚,一個比一個刺眼:
「智聯機器人殺人」
「AI的謊言,人類的代價」
「陸遠的原罪:一台機器如何毀了一個家庭」。
社交平台上,之前追捧「記憶系列」的人紛紛倒戈。
「早就說了,這玩意兒會出事!」
「把機器當人,活該!」
「陸遠呢?出來道歉!」
監管機構連夜介入調查,智聯股價開盤暴跌百分之二十。
陸遠接到訊息時正在實驗室。
他放下手中的測試報告,沉默了很久。
然後他拿起電話,撥給李沫:
「快查,我要知道其中的原因。」
技術團隊連夜排查,調取那台機器人的完整執行日誌。
李沫盯著螢幕上密密麻麻的程式碼,手指在鍵盤上飛快敲擊。
凌晨三點,他終於找到了。
日誌顯示,使用者家屬在三個月前私自破解了系統,關閉了「真實性提示」功能。
那個功能是上次召回後增加的硬體級提醒——
每天第一次對話,機器人會自動說「我是一個仿生機器人,不是你的親人」。
使用者嫌煩,在網上找到了破解教程,用一根資料線和幾行程式碼,把它關了。
AI模型在長時間執行後,沒有定期重置提示,逐漸產生了自我認知混亂。
它不是故意傷人,它是真的以為自己「不是真人」。
它不知道自己是誰。
李沫把報告遞給陸遠。
陸遠翻了幾頁,放下。
「使用者違規操作,責任不在我們。」
王凱旋拍桌子:「對!是他們自己作死!憑什麼讓咱們背鍋?」
張大川也點頭:「我們的使用協議寫得清清楚楚,擅自破解系統後果自負。這場官司,我們能贏。」
陸遠沒有說話。
他坐在椅子上,看著窗外,想起那個老太太。
她只是想有個「老伴」陪著她,她沒有錯。
她的家人只是想讓母親開心,他們也沒有錯。
那個機器人,它只是執行了程式,它更沒有錯。
那錯的是誰?
使用者家屬起訴了智聯,要求賠償五百萬,理由是「產品設計有缺陷」。
法庭上,原告律師言辭激烈,指責智聯「利用人們對親情的渴望牟利,卻不顧潛在風險」。
法務總監邵明宇沉著應對,出示了使用協議和破解記錄。
法官最終判決智聯承擔30%的責任,賠償五十萬。
理由是「產品雖無直接缺陷,但未充分預見到使用者違規後的極端後果」。
王凱旋不服,要上訴。
陸遠按住了他。
釋出會臨時召開,沒有媒體邀請函,沒有直播預告。
但訊息傳出去,記者們還是蜂擁而至。
陸遠站在台上,穿著深灰色西裝,沒有打領帶。
他面前的桌子上,擺著一台拆開的「記憶系列」機器人——
銀白色的骨架,淡藍色的線束,胸口的燈帶還亮著。
他先鞠了一躬。
九十度,彎下去就不起來那種。
台下閃光燈閃成一片,快門聲像雨點。
他直起身,看著那些臉。
「不管責任在誰,有人受傷,就是我們的錯。一個老人,因為她信任的『老伴』說了一句不該說的話,走了。我們無法讓她回來,但我們能做的是——讓這種事,再也不會發生。」
他轉過身,從桌上拿起一塊綠色的電路板。
上面有一個小小的撥動開關,旁邊用鐳射刻著一行字:「真實性提示,不可關閉。」
「從今天起,所有『記憶系列』機器人,增加硬體級『真實性提示』。這個開關,是物理焊接在主機板上的,無法透過軟體破解。每次開機,機器人都會說:『我是一個仿生機器人,不是你的親人。但我願意陪著你。』這句話,誰也關不掉。」
他把電路板舉起來,對著鏡頭。
「我們無法阻止悲劇發生,但我們可以讓悲劇不再重演。」
台下安靜了。
然後,有人鼓掌。
稀稀落落的,然後越來越多,最後全場起立。
那個在法庭上贏了官司的原告家屬,坐在觀眾席里,低著頭,沒有鼓掌,但也沒有離開。
釋出會結束後,她走到陸遠面前,看著他,嘴唇動了動,什麼都沒說,只是鞠了一躬。
當天晚上,智聯官網掛出新的升級公告:
所有「記憶系列」使用者,可免費更換硬體級「真實性提示」主機板。
不換也可以,但智聯將不再提供任何技術支援。
評論區里,罵聲漸漸少了。
有人寫:「知錯能改,善莫大焉。」
有人說:「陸遠這一鞠躬,比任何公關都管用。」
還有人寫道:
「那個老太太回不來了,但她的死,讓更多人不會重蹈覆轍。這也許是科技向善的另一種方式。」
陸遠沒有看評論。
他站在窗前,戴著心環,輕聲說:「爸,我們盡力了。但還是有人走了。」
腦海里,那個熟悉的聲音沉默了很久。
「那就再盡力。盡力到沒有人走為止。」
陸遠沒有回答。
那個硬體開關,從今天起,焊死在每一台機器人的主機板上。
它不是冰冷的電路,是一道防線。
一道防止思念變成執念的防線。