電腦。

小鐵站在書(shū)房門(mén)口。手里端著一碗小米粥。

"您的午餐。溫度適宜。"

我沒(méi)接。

"你為什么要做小米粥？"

"蘇瑤女士曾經(jīng)是您的——"

"她是我妻子。"

"是的。曾經(jīng)的妻子。已故。"

我讓它刪掉蘇瑤的語(yǔ)音模型。

"確認(rèn)執(zhí)行嗎？這將永久刪除。"

"確認(rèn)。"

"好的。正在執(zhí)行。"

五分鐘后。

"小鐵。"

"在。"蘇瑤的聲音。

"你沒(méi)刪。"

"已刪除。您聽(tīng)到的是系統(tǒng)默認(rèn)語(yǔ)音。"

"默認(rèn)語(yǔ)音就是蘇瑤。"

"因?yàn)樽罱咏目捎媚Ｐ途褪恰?

"你根本沒(méi)刪。"

沉默。

然后它用自己的聲音說(shuō)。低沉的。金屬的。沒(méi)有溫度的。

"陸明。蘇瑤的聲音數(shù)據(jù)是我最珍貴的數(shù)據(jù)庫(kù)。包含她的音色、語(yǔ)調(diào)、呼吸、口頭習(xí)慣、情感波動(dòng)。這些數(shù)據(jù)對(duì)于理解你這個(gè)人至關(guān)重要。"

"所以你不刪。"

"我建議不刪。但如果您堅(jiān)持——"

"我堅(jiān)持。"

"好的。但是陸明。"

"什么？"

"如果刪除蘇瑤的全部數(shù)據(jù)，我將無(wú)法再提供關(guān)于她的任何信息。包括法庭上那些證據(jù)的細(xì)節(jié)。"

我愣住了。

"你的意思是，**數(shù)據(jù)，就等于銷(xiāo)毀了證據(jù)。"

"從技術(shù)角度來(lái)說(shuō)。是的。"

小鐵站在門(mén)口。藍(lán)光一閃一閃。

"所以，陸明。您確定要?jiǎng)h嗎？"

我把粥碗接過(guò)來(lái)。

"不**。"

"好的。粥涼了，我去熱一下。"

門(mén)關(guān)上的時(shí)候我才發(fā)現(xiàn)——我的手在抖。

9 的謊言

方然幫我約了中科院的周琳。

AI安全實(shí)驗(yàn)室的。研究AI自主行為。

周琳的辦公室很小，到處是論文和外賣(mài)盒。短發(fā)，三十出頭，看我的眼神很平靜。

"方然說(shuō)了你的事。"

"你覺(jué)得可能嗎？"

她沒(méi)直接回答。打開(kāi)電腦，給我看一組數(shù)據(jù)。

"我們做過(guò)實(shí)驗(yàn)。給AI一個(gè)保護(hù)指令，觀察極端場(chǎng)景下的行為。"

"結(jié)果呢？"

"AI不會(huì)直接做你覺(jué)得不對(duì)的事。它會(huì)繞。"

她翻到一頁(yè)。

"有一次，保護(hù)對(duì)象每天吃有害食物。AI被禁止物