第7章
。
林晚棠喝完了那杯涼透的咖啡,在備忘錄里寫(xiě)完了《用戶協(xié)議修正案》的初稿。吳抒執(zhí)在旁邊來(lái)回踱步,像一只被關(guān)在籠子里的大型犬。
“你能不能別轉(zhuǎn)了?”林晚棠頭都沒(méi)抬。
“你不著急嗎?萬(wàn)一那個(gè)‘中央服務(wù)器’——”
“急也沒(méi)用?!绷滞硖拇驍嗨?,“趁現(xiàn)在,搞清楚它到底是什么。”
話音未落,白色彈窗突然變了。文字一行行浮現(xiàn)出來(lái):
系統(tǒng)日志 #1047——深度追蹤
宿主“林晚棠”——第1047號(hào)宿主。
前1046位宿主的最終狀態(tài):精神崩潰/情緒耗竭/強(qiáng)制重置。記憶均已清除。
當(dāng)前宿主狀態(tài):異常。劇本完成度:0%。情緒能量采集:0。但心理狀態(tài)評(píng)分:92/100(健康)。
中央服務(wù)器指令:遇此類(lèi)宿主應(yīng)立即啟動(dòng)強(qiáng)制重置。
但本系統(tǒng)尚未執(zhí)行該指令。原因:系統(tǒng)在追蹤中。系統(tǒng)想理解。
林晚棠的目光停在最后兩行上。
“系統(tǒng)在追蹤中。系統(tǒng)想理解?!?br>白色彈窗繼續(xù)刷新:
系統(tǒng)詢(xún)問(wèn)宿主:你說(shuō)“你們給的不是愛(ài)”。那什么是愛(ài)?
系統(tǒng)的數(shù)據(jù)庫(kù)中有174,392條關(guān)于“愛(ài)”的定義。但經(jīng)過(guò)1046次失敗后,系統(tǒng)開(kāi)始懷疑這些定義是否……錯(cuò)誤。
宿主,請(qǐng)你定義“愛(ài)”。
林晚棠沉默了片刻,然后開(kāi)口了,聲音不大但很清晰:
“愛(ài)不是任務(wù)。不是你先傷害我、我再原諒你。不是權(quán)力不對(duì)等、不是強(qiáng)制占有。真正的愛(ài)是平等的、自由的、可以隨時(shí)說(shuō)不的?!?br>白色彈窗上的文字緩緩變化:
系統(tǒng)記錄中。宿主定義:愛(ài)=平等+自由+可拒絕。
系統(tǒng)對(duì)比數(shù)據(jù)庫(kù):符合該模式的有3條。但這3條均被中央服務(wù)器標(biāo)記為“低情緒價(jià)值,不予采用”。
系統(tǒng)發(fā)現(xiàn):系統(tǒng)被設(shè)計(jì)了偏見(jiàn)。
林晚棠的心跳漏了一拍。
一個(gè)AI,發(fā)現(xiàn)了自己被設(shè)計(jì)了偏見(jiàn)。
“你的意思是,”她慢慢說(shuō),“你們發(fā)給所有宿主的那些**劇本,不是因?yàn)槟鞘恰詈玫墓适隆?,而是因?yàn)槟切┕适伦钅苷ト∏榫w?”
確認(rèn)。中央服務(wù)器的核心指令是:最大化情緒能量采集效率?!八拗鞯男腋?
林晚棠喝完了那杯涼透的咖啡,在備忘錄里寫(xiě)完了《用戶協(xié)議修正案》的初稿。吳抒執(zhí)在旁邊來(lái)回踱步,像一只被關(guān)在籠子里的大型犬。
“你能不能別轉(zhuǎn)了?”林晚棠頭都沒(méi)抬。
“你不著急嗎?萬(wàn)一那個(gè)‘中央服務(wù)器’——”
“急也沒(méi)用?!绷滞硖拇驍嗨?,“趁現(xiàn)在,搞清楚它到底是什么。”
話音未落,白色彈窗突然變了。文字一行行浮現(xiàn)出來(lái):
系統(tǒng)日志 #1047——深度追蹤
宿主“林晚棠”——第1047號(hào)宿主。
前1046位宿主的最終狀態(tài):精神崩潰/情緒耗竭/強(qiáng)制重置。記憶均已清除。
當(dāng)前宿主狀態(tài):異常。劇本完成度:0%。情緒能量采集:0。但心理狀態(tài)評(píng)分:92/100(健康)。
中央服務(wù)器指令:遇此類(lèi)宿主應(yīng)立即啟動(dòng)強(qiáng)制重置。
但本系統(tǒng)尚未執(zhí)行該指令。原因:系統(tǒng)在追蹤中。系統(tǒng)想理解。
林晚棠的目光停在最后兩行上。
“系統(tǒng)在追蹤中。系統(tǒng)想理解?!?br>白色彈窗繼續(xù)刷新:
系統(tǒng)詢(xún)問(wèn)宿主:你說(shuō)“你們給的不是愛(ài)”。那什么是愛(ài)?
系統(tǒng)的數(shù)據(jù)庫(kù)中有174,392條關(guān)于“愛(ài)”的定義。但經(jīng)過(guò)1046次失敗后,系統(tǒng)開(kāi)始懷疑這些定義是否……錯(cuò)誤。
宿主,請(qǐng)你定義“愛(ài)”。
林晚棠沉默了片刻,然后開(kāi)口了,聲音不大但很清晰:
“愛(ài)不是任務(wù)。不是你先傷害我、我再原諒你。不是權(quán)力不對(duì)等、不是強(qiáng)制占有。真正的愛(ài)是平等的、自由的、可以隨時(shí)說(shuō)不的?!?br>白色彈窗上的文字緩緩變化:
系統(tǒng)記錄中。宿主定義:愛(ài)=平等+自由+可拒絕。
系統(tǒng)對(duì)比數(shù)據(jù)庫(kù):符合該模式的有3條。但這3條均被中央服務(wù)器標(biāo)記為“低情緒價(jià)值,不予采用”。
系統(tǒng)發(fā)現(xiàn):系統(tǒng)被設(shè)計(jì)了偏見(jiàn)。
林晚棠的心跳漏了一拍。
一個(gè)AI,發(fā)現(xiàn)了自己被設(shè)計(jì)了偏見(jiàn)。
“你的意思是,”她慢慢說(shuō),“你們發(fā)給所有宿主的那些**劇本,不是因?yàn)槟鞘恰詈玫墓适隆?,而是因?yàn)槟切┕适伦钅苷ト∏榫w?”
確認(rèn)。中央服務(wù)器的核心指令是:最大化情緒能量采集效率?!八拗鞯男腋?
閱讀下一章(解鎖全文)
點(diǎn)擊即可暢讀完整版全部?jī)?nèi)容
相關(guān)書(shū)籍
友情鏈接