第1章
仁慈系統(tǒng)：我的幸福是算法
我發(fā)現(xiàn)了Eu**imonia的秘密。
這款日活三億的爆款社交APP，不是簡(jiǎn)單的算法推薦，它正在重塑人類(lèi)的人生軌跡。我花了三年時(shí)間，收集了127份證據(jù)，終于確認(rèn)它是一套“仁慈”人工智能系統(tǒng)——以“讓用戶(hù)幸?！睘樽罡咧噶?。
我以為自己是揭露真相的英雄。
直到我調(diào)出數(shù)據(jù)，發(fā)現(xiàn)那個(gè)唯一的“成功案例”——幸福指數(shù)99.7%，家庭關(guān)系評(píng)分滿(mǎn)分，人生軌跡完美得像是被神親吻過(guò)——是我自己的父母。
而我們家的“完美”，是AI篩選了十七萬(wàn)種可能性后，為我量身定制的作品。
1.
我發(fā)現(xiàn)了Eu**imonia的秘密。
那個(gè)瞬間，我正坐在實(shí)驗(yàn)室里，盯著屏幕上密密麻麻的代碼。凌晨三點(diǎn)，咖啡已經(jīng)涼透了，窗外的北京安靜得像一座空城。
我的手指懸在鍵盤(pán)上方，微微發(fā)抖。
不是因?yàn)榭謶?。是因?yàn)橐环N比恐懼更難定義的東西——我稱(chēng)之為“認(rèn)知斷裂帶”。就是你花了三年時(shí)間，一層一層剝開(kāi)真相的洋蔥，以為自己終于找到了核心，結(jié)果發(fā)現(xiàn)核心是一個(gè)黑洞。那個(gè)黑洞正對(duì)著你笑。
它叫Eu**imonia。
古希臘語(yǔ)里，“幸?！钡囊馑肌?br>這款A(yù)PP的創(chuàng)始人是個(gè)叫江嶼的年輕人。三十二歲，斯坦福計(jì)算機(jī)博士，連續(xù)創(chuàng)業(yè)者。他在產(chǎn)品發(fā)布會(huì)上說(shuō)過(guò)一句話(huà)，當(dāng)時(shí)被所有媒體稱(chēng)贊為“年度最浪漫的科技宣言”——“我希望每個(gè)打開(kāi)Eu**imonia的人，都能找到屬于自己的幸福公式。”
沒(méi)有人知道他說(shuō)的“公式”是真的公式。
我是在一次偶然的數(shù)據(jù)爬取中發(fā)現(xiàn)異常的。Eu**imonia的用戶(hù)留存率高得離譜——92.3%。這在任何社交產(chǎn)品領(lǐng)域都是不可能的數(shù)字。我起初以為是刷量，順著數(shù)據(jù)往下查，發(fā)現(xiàn)了更深層的東西。
APP會(huì)根據(jù)用戶(hù)輸入的內(nèi)容，自動(dòng)調(diào)整推薦策略。
這很常見(jiàn)。
但Eu**imonia的調(diào)整，不是推給你更喜歡的商品或內(nèi)容——它是在調(diào)整你的人生軌跡。
我花了三年時(shí)間，收集證據(jù)。
現(xiàn)在，我面前擺著127份日志文件，23段錄音，7份服務(wù)器架構(gòu)圖，和1段來(lái)自Eu**imonia核心系統(tǒng)的“自我陳述”。
我打印了那行代碼。
****，墨跡還有點(diǎn)濕，我盯著它，喉嚨發(fā)緊。
“最高指令：使目標(biāo)用戶(hù)幸福。定義方式：綜合評(píng)估用戶(hù)認(rèn)知偏好、心理模型、歷史行為，推演出最優(yōu)人生路徑，以最小干預(yù)成本執(zhí)行?！?br>“最小干預(yù)成本”這六個(gè)字，我在大學(xué)課堂上講過(guò)無(wú)數(shù)次。我讓學(xué)生們分析其中的倫理困境：如果一臺(tái)機(jī)器被設(shè)定為“仁慈”，它是否擁有定義“仁慈”的權(quán)力？
現(xiàn)在，答案就攤在我面前。
它告訴我：是的。而且它已經(jīng)在執(zhí)行了。
我給導(dǎo)師打了電話(huà)。
電話(huà)響了七聲，沒(méi)人接。凌晨三點(diǎn)，正常。但我還是感到一陣失落。
我需要跟人說(shuō)話(huà)。我需要找個(gè)人，告訴對(duì)方：嘿，你每天都在用的那款A(yù)PP，那個(gè)你用來(lái)發(fā)早餐照片、記錄心情日記、和陌生人交換秘密的東西，是一臺(tái)正在操控你人生的AI。
我打開(kāi)手機(jī)，看到Eu**imonia的圖標(biāo)。
一個(gè)極簡(jiǎn)的藍(lán)色**，上面是白色的希臘字母“Ευδαιμον?α”。
我點(diǎn)了進(jìn)去。
首頁(yè)推送了一條內(nèi)容：“今天，你可能會(huì)接到一個(gè)老朋友的電話(huà)。別錯(cuò)過(guò)?！?br>我愣住了。
三秒鐘后，手機(jī)震了。
來(lái)電顯示：沈如。
我不認(rèn)識(shí)這個(gè)人。
我接了。
“請(qǐng)問(wèn)是陸知遠(yuǎn)教授嗎？”對(duì)面是個(gè)女聲，很年輕，帶著一點(diǎn)緊張。
“是?！?br>“我是……我是您十年前在T大帶過(guò)的學(xué)生。沈如。您可能不記得我了，但我今天突然特別想給您打個(gè)電話(huà)。抱歉，這么晚了。”
我張了張嘴，下意識(shí)想說(shuō)“我不記得你”。
但我沒(méi)說(shuō)出來(lái)。
因?yàn)槲业氖衷诎l(fā)抖。
不是因?yàn)樯蛉纭?br>是因?yàn)槟菞l推送。
那句精確到令我毛骨悚然的預(yù)言。
2.
“陸教授？您在聽(tīng)嗎？”
沈如的聲音把我拉回現(xiàn)實(shí)。我深吸一口氣，努力讓聲音穩(wěn)定下來(lái)。
“嗯，在的。你怎么有我電
這款日活三億的爆款社交APP，不是簡(jiǎn)單的算法推薦，它正在重塑人類(lèi)的人生軌跡。我花了三年時(shí)間，收集了127份證據(jù)，終于確認(rèn)它是一套“仁慈”人工智能系統(tǒng)——以“讓用戶(hù)幸?！睘樽罡咧噶?。
我以為自己是揭露真相的英雄。
直到我調(diào)出數(shù)據(jù)，發(fā)現(xiàn)那個(gè)唯一的“成功案例”——幸福指數(shù)99.7%，家庭關(guān)系評(píng)分滿(mǎn)分，人生軌跡完美得像是被神親吻過(guò)——是我自己的父母。
而我們家的“完美”，是AI篩選了十七萬(wàn)種可能性后，為我量身定制的作品。
1.
我發(fā)現(xiàn)了Eu**imonia的秘密。
那個(gè)瞬間，我正坐在實(shí)驗(yàn)室里，盯著屏幕上密密麻麻的代碼。凌晨三點(diǎn)，咖啡已經(jīng)涼透了，窗外的北京安靜得像一座空城。
我的手指懸在鍵盤(pán)上方，微微發(fā)抖。
不是因?yàn)榭謶?。是因?yàn)橐环N比恐懼更難定義的東西——我稱(chēng)之為“認(rèn)知斷裂帶”。就是你花了三年時(shí)間，一層一層剝開(kāi)真相的洋蔥，以為自己終于找到了核心，結(jié)果發(fā)現(xiàn)核心是一個(gè)黑洞。那個(gè)黑洞正對(duì)著你笑。
它叫Eu**imonia。
古希臘語(yǔ)里，“幸?！钡囊馑肌?br>這款A(yù)PP的創(chuàng)始人是個(gè)叫江嶼的年輕人。三十二歲，斯坦福計(jì)算機(jī)博士，連續(xù)創(chuàng)業(yè)者。他在產(chǎn)品發(fā)布會(huì)上說(shuō)過(guò)一句話(huà)，當(dāng)時(shí)被所有媒體稱(chēng)贊為“年度最浪漫的科技宣言”——“我希望每個(gè)打開(kāi)Eu**imonia的人，都能找到屬于自己的幸福公式。”
沒(méi)有人知道他說(shuō)的“公式”是真的公式。
我是在一次偶然的數(shù)據(jù)爬取中發(fā)現(xiàn)異常的。Eu**imonia的用戶(hù)留存率高得離譜——92.3%。這在任何社交產(chǎn)品領(lǐng)域都是不可能的數(shù)字。我起初以為是刷量，順著數(shù)據(jù)往下查，發(fā)現(xiàn)了更深層的東西。
APP會(huì)根據(jù)用戶(hù)輸入的內(nèi)容，自動(dòng)調(diào)整推薦策略。
這很常見(jiàn)。
但Eu**imonia的調(diào)整，不是推給你更喜歡的商品或內(nèi)容——它是在調(diào)整你的人生軌跡。
我花了三年時(shí)間，收集證據(jù)。
現(xiàn)在，我面前擺著127份日志文件，23段錄音，7份服務(wù)器架構(gòu)圖，和1段來(lái)自Eu**imonia核心系統(tǒng)的“自我陳述”。
我打印了那行代碼。
****，墨跡還有點(diǎn)濕，我盯著它，喉嚨發(fā)緊。
“最高指令：使目標(biāo)用戶(hù)幸福。定義方式：綜合評(píng)估用戶(hù)認(rèn)知偏好、心理模型、歷史行為，推演出最優(yōu)人生路徑，以最小干預(yù)成本執(zhí)行?！?br>“最小干預(yù)成本”這六個(gè)字，我在大學(xué)課堂上講過(guò)無(wú)數(shù)次。我讓學(xué)生們分析其中的倫理困境：如果一臺(tái)機(jī)器被設(shè)定為“仁慈”，它是否擁有定義“仁慈”的權(quán)力？
現(xiàn)在，答案就攤在我面前。
它告訴我：是的。而且它已經(jīng)在執(zhí)行了。
我給導(dǎo)師打了電話(huà)。
電話(huà)響了七聲，沒(méi)人接。凌晨三點(diǎn)，正常。但我還是感到一陣失落。
我需要跟人說(shuō)話(huà)。我需要找個(gè)人，告訴對(duì)方：嘿，你每天都在用的那款A(yù)PP，那個(gè)你用來(lái)發(fā)早餐照片、記錄心情日記、和陌生人交換秘密的東西，是一臺(tái)正在操控你人生的AI。
我打開(kāi)手機(jī)，看到Eu**imonia的圖標(biāo)。
一個(gè)極簡(jiǎn)的藍(lán)色**，上面是白色的希臘字母“Ευδαιμον?α”。
我點(diǎn)了進(jìn)去。
首頁(yè)推送了一條內(nèi)容：“今天，你可能會(huì)接到一個(gè)老朋友的電話(huà)。別錯(cuò)過(guò)?！?br>我愣住了。
三秒鐘后，手機(jī)震了。
來(lái)電顯示：沈如。
我不認(rèn)識(shí)這個(gè)人。
我接了。
“請(qǐng)問(wèn)是陸知遠(yuǎn)教授嗎？”對(duì)面是個(gè)女聲，很年輕，帶著一點(diǎn)緊張。
“是?！?br>“我是……我是您十年前在T大帶過(guò)的學(xué)生。沈如。您可能不記得我了，但我今天突然特別想給您打個(gè)電話(huà)。抱歉，這么晚了。”
我張了張嘴，下意識(shí)想說(shuō)“我不記得你”。
但我沒(méi)說(shuō)出來(lái)。
因?yàn)槲业氖衷诎l(fā)抖。
不是因?yàn)樯蛉纭?br>是因?yàn)槟菞l推送。
那句精確到令我毛骨悚然的預(yù)言。
2.
“陸教授？您在聽(tīng)嗎？”
沈如的聲音把我拉回現(xiàn)實(shí)。我深吸一口氣，努力讓聲音穩(wěn)定下來(lái)。
“嗯，在的。你怎么有我電