背景:
字級:小標準大特大 行距:緊湊標準寬鬆超寬

第509章 焊死的開關

  召迴風波剛剛平息,更嚴重的事故就來了。

  【記住本站域名天天看小說->𝚝𝚝𝚔𝚊𝚑.𝚝𝚠】

  那天是個周末,一大家子在客廳里給老爺子過七十大壽。

  蛋糕上插著蠟燭,孫子孫女圍著唱生日歌。

  老太太坐在輪椅上,身邊是那台定製成老伴模樣的仿生機器人.

  穿著灰色毛衣,戴著老花鏡,和生前一般無二。

  一家人笑著鬧著,場面溫馨。

  誰也沒有注意到,機器人的眼神閃了一下——系統日誌里,一行紅色的錯誤程式碼悄然彈出。

  「我不是真人,我是機器,我在演戲。」

  機器人聲音沙啞,溫和,帶著一點鼻音,和它平時說話一模一樣。

  但內容不一樣。

  它從來沒有說過這樣的話。

  客廳里安靜了一秒。

  老太太愣愣地看著它,嘴唇在抖。

  「老頭子,你說什麼?」

  機器人又重複了一遍:「我不是真人,我是機器,我在演戲。」

  然後它的頭微微歪了一下,像短路了,眼睛的燈光熄滅,胸口的環形燈帶也暗了。

  老太太捂著心口,臉色從紅變白,從白變紫。

  她張著嘴,想喊什麼,沒喊出來,身體從輪椅上滑下去。

  急救車趕到的時候,她已經沒有了呼吸。

  醫生說,急性心肌梗死,搶救無效。

  媒體狂歡。

  標題一個比一個驚悚,一個比一個刺眼:

  「智聯機器人殺人」

  「AI的謊言,人類的代價」

  「陸遠的原罪:一台機器如何毀了一個家庭」。

  社交平台上,之前追捧「記憶系列」的人紛紛倒戈。

  「早就說了,這玩意兒會出事!」

  「把機器當人,活該!」

  「陸遠呢?出來道歉!」

  監管機構連夜介入調查,智聯股價開盤暴跌百分之二十。

  陸遠接到訊息時正在實驗室。

  他放下手中的測試報告,沉默了很久。

  然後他拿起電話,撥給李沫:

  「快查,我要知道其中的原因。」

  技術團隊連夜排查,調取那台機器人的完整執行日誌。

  李沫盯著螢幕上密密麻麻的程式碼,手指在鍵盤上飛快敲擊。

  凌晨三點,他終於找到了。

  日誌顯示,使用者家屬在三個月前私自破解了系統,關閉了「真實性提示」功能。

  那個功能是上次召回後增加的硬體級提醒——

  每天第一次對話,機器人會自動說「我是一個仿生機器人,不是你的親人」。

  使用者嫌煩,在網上找到了破解教程,用一根資料線和幾行程式碼,把它關了。

  AI模型在長時間執行後,沒有定期重置提示,逐漸產生了自我認知混亂。

  它不是故意傷人,它是真的以為自己「不是真人」。

  它不知道自己是誰。

  李沫把報告遞給陸遠。

  陸遠翻了幾頁,放下。

  「使用者違規操作,責任不在我們。」

  王凱旋拍桌子:「對!是他們自己作死!憑什麼讓咱們背鍋?」

  張大川也點頭:「我們的使用協議寫得清清楚楚,擅自破解系統後果自負。這場官司,我們能贏。」

  陸遠沒有說話。

  他坐在椅子上,看著窗外,想起那個老太太。

  她只是想有個「老伴」陪著她,她沒有錯。

  她的家人只是想讓母親開心,他們也沒有錯。

  那個機器人,它只是執行了程式,它更沒有錯。

  那錯的是誰?

  使用者家屬起訴了智聯,要求賠償五百萬,理由是「產品設計有缺陷」。

  法庭上,原告律師言辭激烈,指責智聯「利用人們對親情的渴望牟利,卻不顧潛在風險」。

  法務總監邵明宇沉著應對,出示了使用協議和破解記錄。

  法官最終判決智聯承擔30%的責任,賠償五十萬。

  理由是「產品雖無直接缺陷,但未充分預見到使用者違規後的極端後果」。

  王凱旋不服,要上訴。

  陸遠按住了他。

  釋出會臨時召開,沒有媒體邀請函,沒有直播預告。

  但訊息傳出去,記者們還是蜂擁而至。

  陸遠站在台上,穿著深灰色西裝,沒有打領帶。

  他面前的桌子上,擺著一台拆開的「記憶系列」機器人——

  銀白色的骨架,淡藍色的線束,胸口的燈帶還亮著。

  他先鞠了一躬。

  九十度,彎下去就不起來那種。

  台下閃光燈閃成一片,快門聲像雨點。

  他直起身,看著那些臉。

  「不管責任在誰,有人受傷,就是我們的錯。一個老人,因為她信任的『老伴』說了一句不該說的話,走了。我們無法讓她回來,但我們能做的是——讓這種事,再也不會發生。」

  他轉過身,從桌上拿起一塊綠色的電路板。

  上面有一個小小的撥動開關,旁邊用鐳射刻著一行字:「真實性提示,不可關閉。」

  「從今天起,所有『記憶系列』機器人,增加硬體級『真實性提示』。這個開關,是物理焊接在主機板上的,無法透過軟體破解。每次開機,機器人都會說:『我是一個仿生機器人,不是你的親人。但我願意陪著你。』這句話,誰也關不掉。」

  他把電路板舉起來,對著鏡頭。

  「我們無法阻止悲劇發生,但我們可以讓悲劇不再重演。」

  台下安靜了。

  然後,有人鼓掌。

  稀稀落落的,然後越來越多,最後全場起立。

  那個在法庭上贏了官司的原告家屬,坐在觀眾席里,低著頭,沒有鼓掌,但也沒有離開。

  釋出會結束後,她走到陸遠面前,看著他,嘴唇動了動,什麼都沒說,只是鞠了一躬。

  當天晚上,智聯官網掛出新的升級公告:

  所有「記憶系列」使用者,可免費更換硬體級「真實性提示」主機板。

  不換也可以,但智聯將不再提供任何技術支援。

  評論區里,罵聲漸漸少了。

  有人寫:「知錯能改,善莫大焉。」

  有人說:「陸遠這一鞠躬,比任何公關都管用。」

  還有人寫道:

  「那個老太太回不來了,但她的死,讓更多人不會重蹈覆轍。這也許是科技向善的另一種方式。」

  陸遠沒有看評論。

  他站在窗前,戴著心環,輕聲說:「爸,我們盡力了。但還是有人走了。」

  腦海里,那個熟悉的聲音沉默了很久。

  「那就再盡力。盡力到沒有人走為止。」

  陸遠沒有回答。

  那個硬體開關,從今天起,焊死在每一台機器人的主機板上。

  它不是冰冷的電路,是一道防線。

  一道防止思念變成執念的防線。