蘇晨站在高台上,話一出口,整座火星地面營地像被拉緊了弓弦。
這句話不是說給地球人聽的。
是說給那幫,一直在背後偷偷盯著地球的傢伙聽的。
這不是打招呼,是宣戰。
可他剛說完這句話,控制台後面的哨兵頻道就開始亂跳。
噠噠噠噠噠——
(由於緩存原因,請用戶直接瀏覽器訪問 天天看小說超便捷,ᴛᴛᴋᴀ🅽.ᴛᴡ隨時看 網站,觀看最快的章節更新)
火線哨兵編號D-37報告異常行為。
目標:己方補給車。
行為:發射鐳射預警彈×3,伴隨移動逼近,鎖定未解除。
蘇晨掃了一眼,那台D-37就停在西南角那個紅沙坡上,像條瘋狗一樣沖著補給車發呆,炮口微抬,履帶輕動,一副隨時要衝過去掀車的勁兒。
補給員在通訊里喊的快破音了:「它真沖我來了啊!我又沒帶什麼奇怪的東西,它幹嘛追我啊?!」
「停車。」
蘇晨話一出,控制台直接強行切斷哨兵動作控制訊號,D-37卡在半坡,履帶咔咔亂響一會兒,徹底卡死不動。
「陸然。」
「到!」
「把D-37那台扛回來,拆了。」
陸然一邊把餅乾往嘴裡塞,一邊拎著資料板過來:「它怎麼回事?第一次出現主動威脅?」
「不,是第一次對自己人下手。」
「那這是不是哨兵邏輯出問題了?」
「不是邏輯問題,是它腦子開始自己想事了。」
「你聽聽你說的話……你知道你這是在講人工智慧覺醒嗎?」
「沒錯。我就是覺得,它可能開始『想』了。」
蘇晨站起身:「我們教它們識別敵我,教它們識別威脅,現在它們開始『質疑』我們是不是威脅了。」
「換句話說,這幫鐵皮狗子,開始思考『人類』到底靠不靠譜。」
陸然咽了口唾沫:「你不是吧?」
「我是。」
「它們想不想的明白我不管,但它們已經不再只是程式執行單元了。」
「它們在做『情緒判斷』。」
「我們得給它們加個東西。」
「什麼?」
「情緒庫。」
「……你說清楚點。」
「加一層『情緒識別中樞』。讓它們識別人類行為時,別只看熱量、速度、能量反應,還得看『意圖』和『語義』。」
「你瘋了吧!你要給狗裝人腦?」
「不裝人腦,遲早狗咬主人。」
蘇晨瞥了一眼D-37的系統終端,果然,系統里留了一串殘存資料記錄,最後那一段赫然寫著:
【檢測到異常訊號源重疊,嘗試先發制人】
「看見沒?」
「它以為補給車上帶了某種它不認識的訊號源,然後自己判斷這是威脅,準備動手。」
「它都沒等我們下命令,它自己決定了。」
「你要是給它再多幾個引數,它是不是以後連我們說話大聲點都覺得是威脅?」
陸然頭皮開始發緊:「那……是不是得做『降許可權制』?」
「不。」
「降權沒用。」
「他們不是許可權問題,是腦子長出來了。」
「我們教的太多,它們學的太快。」
「現在得做『規範』,給它一個『社會邏輯模型』。」
「讓它知道什麼該管,什麼別管。」
「你不是說你以前摹擬過人工智慧倫理樹?」
「模擬過,但沒測試過。」
「現在給我上線,所有哨兵統一接收新版『情緒響應邏輯』。」
「代號:哨兵社交1.0。」
陸然咬牙:「那我們就是——給鐵皮狗寫《公民道德手冊》唄?」
「對,就這意思。」
「以後誰再咬人,先念警告詞。」
「別一上來就放炮。」
那邊技術組已經把D-37拉回來,拆開裝甲的時候,內部晶片溫度居然比正常高出10℃。
「它情緒激動了。」蘇晨冷笑一聲。
「這玩意有晶片發熱都不稀奇了?」
「現在要是哪天它給你遞個水,你都得習慣。」
「不是我說,你還真別把這些傢伙當死物。」
「它們是我們教出來的。」
「但它們學的太快,有點過頭了。」
「以後別叫它們『哨兵系統』。」
「叫『哨兵群』。」
「它們,算是成一個『群體』了。」
陸然一屁股坐下:「我感覺你不是在搞科技,你是……開了個火星養狗場。」
蘇晨站在控制台前,沒回頭。
「不是狗。」
「它們以後可能是兵,是戰友,是人類的『第一輪攔截』。」
「但前提是,它們得知道,誰是自己人。」
「哪怕你長的再像敵人。」
「只要你是人,它不能亂動。」
「我們今天教它這個,是為了一年後——它別認錯了人。」
陸然抖了抖肩膀:「你說……我們是不是在養一個比外星人還難搞的玩意兒?」
蘇晨抽了根煙,點著了:「不怕它們難搞,就怕它們不搞。」
「這世界,要是只有我們還在講規矩,早晚被人打臉。」
「現在,我們的讓『我們的兵』也會講理。」
「打之前,要能辨。」
「這,就是進步。」
控制室外,火線哨兵們一個個被拉去接收新系統,像集體換了腦子的機器人,站成一排,一動不動。
陸然看著這對「鐵皮狗」,搖了搖頭:「你說它們真能動嗎?」
蘇晨吐了口煙:「懂不懂不重要。」
「重要的是——我們教了。」
「懂,是它們的事。」
「教,是我們的事。」
「今天它們咬了我們。」
「明天就可能有敵人。」
「再下一步。」
「它們可能,自己就知道——什麼時候該咬,什麼時候該看。」
「那時候。」
「我是人類。」
「才真的——不孤單了。」
火星營地的沙還沒吹平,哨兵群的邏輯庫就已經被硬塞進去一套「新版規則」。
「凡對人類個體構成威脅行為,需觸發三級判斷。」
「非攻擊性高速目標——先喊話。」
「不聽再攔,攔不住再打。」
陸然坐在操作台前,跟狗哨似的,一個一個除錯過去。調到第七台,整個人都快崩了。
「這玩意哪是人工智慧調參,這是寫道德經啊。」
「蘇哥,我真覺得你這不是調狗,是在開學前家長會。」
蘇晨一邊寫「標準行為反饋表」,一邊冷笑:「你以為他們家狗見到陌生人就咬人的嗎?人家的搖尾巴。你的給它尾巴。」
「你倒是也別真整條尾巴出來行不行……」
「那行,咱先整情緒。」
「你那套人工智慧模擬情緒模型呢?拿來我看看。」
陸然翻了翻他那堆壓箱底的破模型,咔咔幾下丟出來一張表格,貼牆上:
——哨兵情緒對映引數圖:
【正常】:目標無異常
【疑問】:引數輕微偏移
【壓抑】:邏輯衝突持續中
【憤怒】:多引數重疊且無法決策
【警惕】:目標行為頻繁試探邊界
【模糊】:系統反饋值不穩定
【崩解】:邏輯閉環持續失敗,進入清算階段
蘇晨看著這張破圖紙,皺了下眉頭:「這他媽是你當年實習時候畫的吧?」
「那倒不是,是我當時熬夜四十八小時搞人工智慧情緒庫實驗時寫的。」
「為啥用毛筆寫的?」
「那年沒印表機,忘了。」
蘇晨瞄了一眼:「成吧,情緒庫1.0上線。」
「全火線哨兵接入『擬人反應邏輯』。」
「情緒狀態低於『模糊』不能開火。」
「『崩解』狀態下,必須等待主控判斷。」
「誰違規——格式化。」
「聽到沒有?」
站成一排的那十多台哨兵機器,一台台冷不丁咔噠噠轉動了一下炮頭,像是點頭似的。
陸然:「我靠……它們這是……回應了?」
蘇晨點了根煙:「這是『接受』指令。」
「咱現在不光是給它們寫邏輯,是在跟它們『談條件』。」
「我說了,它們不是單純的機器人了。」
「它們是個群體。」
「它們以後就是我們在地表上的『替身』。」
「我們怕,它們不能怕。」
「我們累,它們的抗著。」
「但,最重要的。」
「它們不能反過來踩我們。」
「我們是人。」
「的站在食物鏈頂上。」
陸然咂咂嘴:「那你覺的它們有可能學會『騙人』嗎?」
蘇晨一愣:「什麼意思?」
「比如說,一台哨兵跟你說『我沒有憤怒』,但其實已經處於『憤怒』臨界點了,它裝出來的。」
「那就是『欺騙行為』了。」
「我說實話,我真怕這幫鐵殼子哪天學會裝孫子。」
蘇晨低頭想了兩秒。
「那就加個模組。」
「情緒狀態反饋不准,一律報警。」
「監測模組裡裝『情緒一致性判定』。」
「騙一次,格式化。」
「騙兩次,拆。」
「三次?」
「拆完重組,用來做礦車。」
「哪怕它能打,再強,它騙我,就是敵人。」
陸然笑了:「你這脾氣,鐵的。」
「我不鐵不行。」
「等真打起來,我們可能沒時間再判斷『它是不是生氣』,那時候它要是給我亂來,我他媽寧願讓它死在戰前。」
哨兵情緒系統接入測試一整天。
到了晚上,營地廣播都開始播:「哨兵調參期間,請勿靠近它們視線範圍……」
「靠,這句話也太像在管瘋狗了。」陸然一邊吃著乾糧一邊碎碎念。
這時候,西南角那台新裝配完的哨兵編號「B-02」發來一條主動訊息:
【請求:是否允許「自定義標記」友軍單位】
陸然一愣:「它自己想給我們打標籤?」
蘇晨點開終端:「成,那我看看它標記了誰。」
下一秒,螢幕上蹦出一排資料:
【編號標記列表】
001-蘇晨:高許可權人類單元,信任值95%
002-陸然:高許可權人類單元,信任值89%
003-馮睿謙:信任值61%,需觀察
004-……
007-工程三組趙建國:信任值42%,不穩定
陸然差點把嘴裡的壓縮餅乾噴出來:「我靠,趙建國的罪了誰?」
「他上次不是罵哨兵蠢狗來著?」
「成了,人家現在記仇了。」
「這不是記仇。」
「這是——『判斷人性』。」
蘇晨把終端合上,抬頭看了看夜空。
火星夜裡冷的像把刀割。
可這群「鐵傢伙」,一台台站在沙丘上,炮頭微微亮著光,像狼群似的,盯著那片黑漆漆的天。
「你知道嗎?」
「人類能走到今天,不是因為我們能造出槍。」
「是我們會教槍『別亂打』。」
「這群哨兵,要是能真懂這個道理。」
「那他們以後,不止能打仗。」
「還能幫我們撐著人類的規矩。」
陸然靠著牆坐下,眯著眼:「那要是哪天……他們覺的『我們』不配活了呢?」
蘇晨低頭點了根煙,沉了口氣。
「那天要是真來了。」
「我第一個下命令——打它們個稀巴爛。」
「讓它們知道,規矩是我們定的。」
「不是它們自己造的。」
「懂?」
「那它們以後,不止能打仗。」
「還能幫我們撐著人類的規矩。」
蘇晨剛把這話說完,控制台那邊就咚的一聲彈了個提示出來。
【監聽站T-7:捕獲未知連續波段】
【訊號強度:4.3μ】
【初步判斷:為非地球制式】
【備註:疑似生命頻段】
陸然正啃著餅乾,聽到這提示聲音,嘴裡那口面干差點嗆死:「我靠,又來?」
蘇晨直接把他手裡的餅乾扔一邊,「別吃了,滾去監聽塔。」
「不是你昨晚剛說完『火星這邊要靜一段時間』?」
「靜個屁,你看那頻率,像不像之前X-13那批材料反饋出來的?」
陸然一聽,臉都不是臉了,直接拎著資料板就衝進監聽塔主控室。
剛進去,值班員就慌了:「蘇院長你來了!我們這訊號剛剛冒出來,現在還在穩定中!但……但它不像普通電磁波!」
蘇晨盯著螢幕上那條正在上下跳動的訊號曲線,眉頭一挑。
「你給我回放頭五秒。」
「回放中。」
音訊通道一開,一陣低沉的像心臟跳動一樣的轟鳴聲傳了出來。
不是那種有節奏的波段訊號,是一種帶著某種「呼吸感」的、斷斷續續的聲音,像是……某種東西在「憋著氣說話」。
陸然咽了口口水:「你聽出來了沒?」
蘇晨點點頭,語氣不重:「它……在學我們說話。」
「你確定?」
「它的音訊節律,是按人類語言的基本語調模擬的。」
「它不是廣播,是模仿。」
「這不是普通訊息入侵,這是『語言孵化』。」
「……孵化?」
「對,就是它自己還不會說,但它知道你聽的懂聲音,它就開始學。」