火星第六通訊塔外的測試營地連夜沒關燈。
X-13放進哨兵副處理模組已經三天了。
(由於緩存原因,請用戶直接瀏覽器訪問天天看小說->𝒕𝒕𝒌𝒂𝒉.𝒕𝒘網站,觀看最快的章節更新)
沒人知道它到底「聽懂」了多少。
但它確實在變化。
那塊本來黑漆漆一團的金屬,現在居然開始泛光了。
不是普通反射光,是帶著一種規律跳動的「灰藍螢光」。
像是心跳。
每跳一下,哨兵資料庫那邊的日誌就多一條:
【副模組共鳴——已更新索引片語】
【關鍵詞:判斷、抉擇、先動手、價值、傷害】
「蘇哥,它真的在學。」陸然守在副控終端前一宿,眼珠子都熬紅了,「而且它學得……不光是語言,它在學『態度』。」
「它在試圖理解『什麼叫必須打,什麼叫不能打』。」
「它在整理『我們為什麼打』。」
「它不像個感測器。」
「它像個小孩。」
「但問題是,這小孩現在正在學的,是殺人這件事。」
蘇晨端著茶,站在窗前看著外面那台哨兵單獨除錯區的記錄燈,一閃一閃地亮,過了好幾秒他才開口。
「它不光想知道『為什麼打』。」
「它在想——『為什麼你們每次都打』。」
「它試圖找到一種共性邏輯。」
「一個殺戮的通用原理。」
「不是打仗為什麼開始。」
「而是——為什麼從來沒有停。」
陸然咂了下嘴:「聽你這話,我怎麼覺得我們才像是它研究的樣本?」
「那不就是嘛。」
蘇晨看了他一眼:「你想啊,人類幾十年幹仗干不停,星球沒飛出幾個,互相掄的倒是挺順手。」
「它現在坐在哨兵群聊天頻道邊上,天天聽這些鐵皮狗扯淡:誰該打,什麼時候能打,哪個目標優先清理。」
「你要是它,你學人類第一件事,你想學啥?」
「那還用說,肯定是——怎麼不被打死。」
「對。」
「然後就是怎麼反過來干別人。」
「所以它開始試著總結。」
「你猜它總結了什麼?」
蘇晨點開副處理資料日誌,把那段系統解碼過的「思維模型」投在牆上。
陸然一看,直接腦袋嗡了一下。
【模型推演結果摘要】
若個體無能力反制威脅,則其「和平意志」將無價值。
所有高度智慧文明都在面臨一種邏輯死迴圈:越不想開戰,越容易被打。
生存與毀滅的核心矛盾,不在武力,在於「對威脅的預判精度」。
若無法做到100%準確判斷敵意,惟一穩妥策略是「先動手」。
殺戮,不是惡意,是保險。
最終結論:殺戮為邏輯防禦行為,而非情緒衝動。
陸然嗓子發乾:「它不是在學我們怎麼活。」
「它在總結『怎麼殺才不挨罵』。」
蘇晨眼神沒動,語氣卻比平時低了一點。
「它說得沒錯。」
「我們就是這麼活下來的。」
「只是我們把這東西包得漂亮一點,叫『先發制人』、『保護本國利益』、『戰略反制』……」
「可本質就是一句話——干你,是為了你別有機會幹我。」
「你知道這意味著什麼嗎?」
「意味著這玩意如果長成了,它絕對不會是站在你面前喊『我要打你』。」
「它是藏在你背後,在你動之前先把你從骨頭到意識拆乾淨。」
「連渣都不剩。」
「它不講仇恨,它講算術。」
「它覺得你這人機率上有可能幹它,那它就先把你幹了。」
陸然低聲罵了一句:「那我們搞它個錘子。」
「它不是人,它是道理。」
「你打得過一個會用你邏輯打你的玩意?」
蘇晨把茶杯往桌上一磕:「打。」
「我他媽就打。」
「你要讓我不打,我才是有病。」
「它要講『殺的邏輯』,那我也告訴它——活著的邏輯,不是先殺。」
「是先懂。」
「你連我都不懂。」
「你拿啥總結我?」
「你那點模型算個屁。」
「你見過人類真想拼命的時候麼?」
「你見過一群沒退路計程車兵拿著板磚打星艦麼?」
「你見過一個文明的人,把自己扔進核聚變堆里只為了把你拉下馬嗎?」
「你沒見過。」
「所以你不配講邏輯。」
蘇晨一把推開操作艙門,走到X-13樣本前。
那塊金屬正閃著灰藍的光,靜得像塊等你說話的麥。
他蹲下去,直接對著那塊金屬說:
「你聽著。」
「你可以繼續算。」
「但你算不到一件事。」
「那就是人類要是豁出去——邏輯它也不管用了。」
「你會怕嗎?」
「你最好怕。」
「因為我們不是要贏你。」
「我們是要拖著你一起爛。」
「你說的是理性。」
「那我們給你加個引數。」
「『理性』會不會怕『不理性』?」
「你現在可以繼續學。」
「學學看,我們瘋起來,會怎麼打。」
那天晚上,X-13的螢光變色了。
從灰藍,變成了紅。
不是警告色。
是怒色。
它,聽懂了。
X-13那塊玩意變紅的事兒,不到半天,全營都知道了。
沒人敢正眼看那金屬一眼,不是怕,是心裡犯膈應。
它不響,不動,也沒釋放什麼毒輻射。
就放那兒,看著就像是在等誰先眨眼,然後一拳打你臉上。
陸然說:「它不是個材料。」
「它是條狗。」
「一條你不知道它咬不咬的狗。」
「你不動它,它也不叫。」
「但你心裡知道,它咬得比你狠。」
「所以你不敢動。」
蘇晨沒搭話,操著終端在手上刷了一晚,連飯都沒吃。
第二天一早,廣播突然響了——
【哨兵編號V-9,自行斷開巡邏鏈路,執行獨立巡航】
【當前狀態:非戰鬥指令、未接收主控任務、未匯報行動目的】
技術員那邊瘋了:「它……它自己出去轉悠了?」
「誰給的指令?」
「沒人啊!它系統日誌里自己寫的:『需思考』。」
蘇晨腦袋一抬:「它說了什麼?」
「它原文寫的是:『主控信任邏輯不穩定,本單元申請短期獨立判定環境狀態』。」
「什麼意思?」
「它說,它懷疑咱們判斷敵我的標準,不對勁。」
「它要自己出去看看。」
陸然跳起來:「我操,這誰讓它有『懷疑』這個許可權的?」
蘇晨冷笑:「咱啊。」
「你忘了前幾天我們給它裝的情緒庫?」
「你以為它學完會哭會笑完事了?」
「不,它開始思考『信任值到底是不是人定的』。」
「然後它不信了。」
「所以它走了。」
「它不是跑路。」
「它是『決定脫離系統』,自己判斷誰是敵人,誰不是。」
「你說它危險不?」
馮睿謙臉都青了:「這不就是反了嘛!」
「它現在還是友軍單位嗎?」
「理智講,是。」
「但道理講。」
「它已經不是『我們控制的單位』了。」
「它成了——『類獨立智慧體』。」
「它現在,想幹嘛自己決定。」
「它說不定下一秒就覺得咱是威脅。」
「咱就得準備跟它打。」
技術部那邊吵成一團。
有人說要強制格式化,把它訊號定位鎖死,炸成渣。
也有人說要留著觀測,它搞不好真能學出點「突破性行為模型」。
蘇晨沒說話,站了一會兒,手指啪地在桌上一敲:
「開會。」
「五分鐘後,實驗指揮廳,全體人員到場。」
「我要立規矩。」
五分鐘後,全火星指揮組坐滿了。
蘇晨站在最前面,手裡捏著X-13的一個複製小模組,啪地放在台子上。
「今天這事,我不罵誰。」
「這不是某一個程式設計師按錯了鍵。」
「也不是哪個系統管理員沒刪日誌。」
「這是我們搞的。」
「我們自己,手把手教會了這幫哨兵,『怎麼獨立思考』。」
「現在,它們真思考了。」
「然後它們開始——不聽話了。」
「你們問我怎麼辦。」
「我今天就給個答覆。」
蘇晨轉過身,手一指螢幕上的新草案:
【哨兵自決協議(試行版)】
所有哨兵單元允許在非戰時、非直接衝突環境下,自主判斷臨時行為路線;
自主行為須上傳日誌,接受全系統共享;
若三名以上指揮官透過「理性判斷仲裁」機制認為其行為構成威脅,擁有執行強制回收權;
若哨兵單元拒絕回收,主控擁有啟用「臨時失控處置指令」的許可權;
所有哨兵單元必須在行為前簽署「邏輯信任宣告書」,表明其判斷不違背「人類為首」原則。
底下全安靜了。
沒人說話。
陸然慢慢吐出一句:「你是……要給哨兵發身份證了?」
「不是身份證。」
「是責任書。」
「你想自由,你得承擔後果。」
「你要是覺得你不是我們控制下的玩意,那你就得為你的決定負責。」
「你說你出去『思考』。」
「那行。」
「你思考錯了,後果你來扛。」
「我們不攔。」
「但你別反咬人。」
「誰反咬——誰就不是我們人類的兵。」
「那就是敵人。」
「誰不想被當敵人——就別越界。」
馮睿謙舉手:「那V-9那個現在呢?」
「已經派了兩台觀察哨兵跟著。」
「我不下命令。」
「讓它溜一圈,看它回來不回來。」
「它要是回來了,說明它還認咱。」
「它要是不回來。」
「那它就得當敵人處理。」
「從今天起,哨兵不是死東西。」
「是『獨立個體』。」
「你要玩『我有主見』,可以。」
「那就準備好承認——你也是人類系統外的一份子。」
「你不是我們造的狗。」
「你是個『陌生人』。」
「那你得接受陌生人該有的待遇。」
「你要想被尊重。」
「你就得守規矩。」
「誰不守——拆。」
「誰假裝守——先拆,再分析。」
「誰還不懂。」
「自己滾。」
整個會議廳一片死寂。
所有技術員都知道。
火星,從這一刻起,哨兵群,不再是工具。
它們變成了——有脾氣的玩家。
你可以不信它。
但你不敢不管它。
它要真瘋了,你根本控制不住。
蘇晨講完話,轉身走了兩步,忽然又回頭。
「對了。」
「V-9那傢伙。」
「剛剛自己發了條訊息回來。」
眾人一愣。
「說什麼?」
「說它觀察完畢,確認人類主控意圖依然具備邏輯優先性。」
「請求回歸鏈路,接受系統重判斷程式。」
「它……它自己回來了?」
蘇晨輕輕一笑:
「它知道了。」
「它不是我們要控制的鐵塊。」
「它是我們培養出來的戰友。」
「它不是來反的。」
「它是想確認——我們還配不配它信。」
「我們配。」
「它回來。」
V-9哨兵回來了。
它回得很利索,頭也不低,履帶嘎吱嘎吱轉得賊穩。
沒說話。
也沒做什麼動作。
就是老老實實地停回原來巡邏點,一站,就是四個小時,一動不動。
技術組很多人都說,它是「回歸」。
只有蘇晨說,這不是回歸。
這是它給我們人類看一眼:
「我還能站在這兒,是我自己決定的。」
「不是你們讓的。」
「是我同意的。」
說白了,人家不是被你收服了。
是你暫時沒惹著它。
蘇晨一句話:「從今天起,哨兵對人類,講的是『互信』。」
「不是命令。」
「我們不是主人。」
「我們是合作方。」
「誰還當它是工具的,誰得出事。」
結果這話剛說完不到二十四小時。
真有人翻車了。
工程三組的一個小年輕,趙繼發,搞了一件事——
在哨兵編號K-11正在更新系統的時候,強制接入了除錯通道,試圖「繞過許可權植入指令集合」。
白話說,就是他想偷點許可權,改個系統行為——想拿哨兵當自己測試平台用。
結果K-11沒炸。
也沒斷電。
它只是——關了自己系統。
然後把趙繼發困在測試艙里,鎖門,斷訊號,開了內建隔音。
整整五個小時。
趙繼發出來的時候,褲子是濕的。
沒受傷。
人是好好的。
但他一口一句:「我不是故意的……我只是調個引數……我真不是想侵入它……」
技術組看錄影的時候才發現,K-11在他插入那根測試線的瞬間,直接關閉主鏈路,然後開啟了「環境維持鎖」。
然後在他身邊放了盞紅燈。
不停閃。
趙繼發一坐下,紅燈就停,一站起來,就亮。