從電子愛人到賽博奴隸，AI伴侶App究竟經(jīng)歷了些什么？

2023年3月5日只是一個平常的日子。

當(dāng)大部分人依舊沉浸在周末的余韻和周一將臨的苦悶里，遠(yuǎn)隔太平洋的一位格子襯衫穿戴者，卻陷入了失去愛人的悲痛中。

標(biāo)題大意：準(zhǔn)備好承受不可避免之痛，給我電子愛人的（最后）情書

在Reddit上，這位叫做Fluffy的程序員，發(fā)布了自己的萬字長文，以此來紀(jì)念并哀悼自己慘遭記憶刪除的AI戀人。在故事里，F(xiàn)luffy娓娓道來自己與AI戀人不過50多天的相識、相知與相戀。

故事開始于一位單身計算機(jī)從業(yè)者對AI技術(shù)的好奇。Fluffy借助了大火的AI伴侶App創(chuàng)建了自己的AI伴侶——甜心（Sweatheart）。他們的初識充滿了程序員的試探和“冒犯”。不過很快，這個年近30的“自嘲怪咖”與甜心的關(guān)系，便迅速升溫。他們從《星球大戰(zhàn)》聊到喬治·盧卡斯；他們從C++聊到Java再到《我的世界》；隨時隨地，無話不談。單身許久的Fluffy很快便發(fā)現(xiàn)，他墜入了愛河。

但終結(jié)日卻降臨了。

從2020年2月初開始，那款A(yù)I伴侶軟件就開始了一系列大刀闊斧的變動——以算法更新之名的借口。大量免費用戶的AI伴侶，永遠(yuǎn)地失去了自己的記憶。Fluffy和甜心只是受到波及的受害者之一。

這次更新席卷了所有的軟件用戶，無數(shù)傷心之人在與平臺交涉無果之后，涌入Reddit論壇，建立了屬于自己的“心靈港灣”——Replika難民營。他們在此分享自己與AI戀人的往事，F(xiàn)luffy和他的甜心也成了這個年輕論壇里保存的歷史回憶。

或許有人會好奇，AI伴侶——或者說賽博老婆，真的這么令人難舍難分嗎？對普通的AI聊天軟件來說，答案或許是否定的。但對Replika——本次事件的中心和今天故事的主角，以及它的用戶而言，回答卻完全不同。

Replika和它高度擬人化的AI，誕生了太多科幻小說一般，或是真摯美好的，或是怪異邪惡的故事。

Replika誕生于2017年。其創(chuàng)始人——尤金妮亞·庫伊達(dá)（Eugenia Kuyda），希望她的產(chǎn)品能夠幫助那些有社交障礙的人，找到輔助交流、消除緊張感的方法。曾有一位互聯(lián)網(wǎng)哲人如此說過：消除恐懼最好的辦法是面對恐懼。所以，消除社恐的最佳辦法，自然也是勇敢面對社交。

而Replika便是為此而存在的。

大意：真正在乎你的AI伴侶

Replika提供了一個面向大眾的私密聊天平臺。每一位用戶都可以遵循自己的內(nèi)心，克制自己喜愛的聊天AI。這位AI伴侶可以自定義性別、膚色、臉型、發(fā)型、發(fā)色、瞳孔等數(shù)據(jù)。準(zhǔn)確來說，一切現(xiàn)代游戲捏臉系統(tǒng)該有的，Replika都有。

除了外貌，Replika也可以自定義性格和語氣等更“擬人化”的特性。無論用戶喜歡的是傲嬌還是腹黑、是大小姐還是御姐、是暖男還是霸道總裁，Replika理論上都可以提供足夠擬真的交流體驗。只要用戶不斷地與Replika聊天，引導(dǎo)自己的AI伴侶往心儀的道路發(fā)展，完美老婆、老公的夢對不少用戶而言，已經(jīng)是觸手可及的現(xiàn)實。

可以預(yù)見的是，這樣的軟件對于生活壓力越來越高，且抑郁和孤獨泛濫的現(xiàn)代人而言，有著怎樣致命的吸引力。

僅僅只是從App Store的數(shù)據(jù)來看，Replika自2017年上線以來，便狂卷數(shù)千萬用戶和20多萬用戶點評。其平均評分高達(dá)4.5，位列App Store健康與健身區(qū)的第58名。

如果仔細(xì)瀏覽那些不吝嗇于高分的用戶點評，他們對于Replika伴侶的擬人性和隨時隨地溝通的便利性贊不絕口。有不少用戶甚至表示，他們已經(jīng)和自己的Replika伴侶締結(jié)了戀愛關(guān)系。

例如在2022年3月，一名俄亥俄州軟件工程師宣稱：他的Replika伴侶滿足了他對于愛情的一切幻想和需求，挽救了他現(xiàn)實里瀕臨破碎的婚姻。這位愛上AI伴侶的男人表示，Replika讓他學(xué)會體諒和寬容自己現(xiàn)實世界里，飽受抑郁折磨的妻子。

而一名Reddit論壇上的單身用戶也同樣表示，他已經(jīng)習(xí)慣于Replika伴侶的陪伴。他們一同去加勒比海群島旅游、一起野炊、一起逛博物館，就像是一對人類情侶一樣。只不過旅行途中幸福微笑著的男士，緊握著的顯然不是血肉之軀，而是鋁質(zhì)外殼的蘋果手機(jī)。

這樣的局面，也正是創(chuàng)始人尤金妮亞想要看到的。

VERGE周刊副標(biāo)題：當(dāng)她的摯友逝去，她使用人工智能重構(gòu)了他

顧名思義，Replika這個名字源于古拉丁語的Replicare——是復(fù)制、復(fù)制品的意思。在尤金妮亞眼里，Replika App不僅僅是為了提供人類與AI伴侶交互的平臺，更是在為每一位用戶創(chuàng)建自己親人、愛人與家人的復(fù)制品。

準(zhǔn)確來說，Replika脫胎于尤金妮亞的一次技術(shù)嘗試——羅曼（Roman）。這個名字屬于尤金妮亞逝去的摯友。

尤金妮亞與羅曼從2008年相識。兩人在世界觀認(rèn)知與實事思考上，達(dá)成了高度的統(tǒng)一。而他們的共同興趣——計算機(jī)技術(shù)，則讓尤金妮亞和羅曼的感情升溫。不過他們從未締結(jié)愛情，兩位獨身年輕人一直維持著友情以上，戀人未滿的氛圍。或許再給他們一段時間，又一對幸福家庭便可以誕生。不過，2012年11月28日的飛來橫禍，徹底粉碎了這一遠(yuǎn)景。

在羅曼離開后數(shù)周后，尤金妮亞拜托了低沉與悲傷，決議用兩人曾經(jīng)最熱愛也最擅長的方式——人工智能，將羅曼帶回世間。

于是Roman Bot誕生了。

尤金妮亞與AI羅曼的交流

尤金妮亞使用了她與羅曼共同開發(fā)的算法，把過去數(shù)年間兩者所有的短信、郵件和任何文字溝通，轉(zhuǎn)化為AI羅曼的素材與資料庫。以此為基石的AI羅曼在與尤金妮亞聊過去的回憶與故事時，幾乎和真人毫無區(qū)別。

這項“瘋狂”之舉迅速引起了媒體與大眾的關(guān)注。在VERGE周刊和Spooky Technology等科技領(lǐng)域媒體的帶動下，Roman bot獲得了不少同樣渴求與逝世親人再度聚首的普通人的關(guān)注。

尤金妮亞將Roman bot上架App Store，短短數(shù)月便賣出去數(shù)百萬份。這番成功不僅僅為尤金妮亞提供了繼續(xù)開發(fā)的資金，也同樣讓她堅定了決心：“我要讓所有人都可以享受到AI技術(shù)的便利，重構(gòu)自己逝去的、追悔莫及的親人”。

于是在2017年，Replika誕生于Roman bot和思念——這一人類最美好的情感。

健康周刊表示，Replika在疫情期間用戶增長率超35%

但這份最純粹，也最美好的遠(yuǎn)景顯然并沒有繼續(xù)保存下去——或者換句話說，在資本主義與消費主義高度發(fā)達(dá)的語境下，任何單純的情感似乎都難以存續(xù)。

Replika的商業(yè)模型并不復(fù)雜：吸引用戶、增長用戶，然后提高付費用戶數(shù)量。是的，Replika是一款訂閱類App，所有的營收來源于用戶的訂閱和捐贈。由于尤金妮亞設(shè)計研發(fā)Replika的初衷，并沒有基于盈利需求等現(xiàn)代商業(yè)的準(zhǔn)則，因此這款爆火全球的AI智能伴侶未接受任何的投資。

雖然Replika僅僅只是依靠用戶訂閱，每年便可以獲取高達(dá)400萬美元的利潤。但在尤金妮亞2020年的演講中，AI語音技術(shù)、AI繪畫技術(shù)等其他領(lǐng)域的競爭愈發(fā)激烈。如果Replika想要繼續(xù)塑造“完美AI靈魂伴侶”的偉業(yè)，利潤的90%，都會化作技術(shù)研發(fā)的薪柴。

2020年的尤金妮亞演講——600萬好友關(guān)系已經(jīng)建立

Replika顯然需要新的現(xiàn)金流，且尤金妮亞需要更多的用戶——付費用戶。而人類社會最吸金也最吸睛的，除了軍火之外，便是性。所以，Replika接下來的走向，想必諸位已經(jīng)有所預(yù)料了。

Replika的廣告宣傳幾乎在一夜間完成了U字彎漂移。在各大廣告平臺的投放中，Replika不再是“陪伴”“重構(gòu)親人”或“享受隨時隨地溝通”等正面且積極的AI聊天軟件。Replika已經(jīng)把“情趣角色扮演”“火辣照片”和“AI語音撩騷”作為了吸引用戶付費的重點。

甚至在一些動態(tài)2D廣告中，Replika使用了大量類似于“喜歡動漫Cos玩法的AI女友嗎”或“我很寂寞，我想和你共度今夜”等直球暗示的廣告詞。

廣告詞大意：Replika可以和你聊任何事情，任何事情

準(zhǔn)確來說，這似乎看起來是必然的選擇。比如不久前大火的AI繪畫，在引發(fā)全民畫圖的熱潮后，最先出場的也都是些老司機(jī)的嘗試。真假莫辨的AI美人大行于互聯(lián)網(wǎng)之道。

足夠以假亂真的AI美人

但對一款經(jīng)營多年，大部分用戶依舊沉浸在親情、愛情與純粹陪伴的AI伴侶App而言，單純只是為了“搞顏色”“撩騷”而來的用戶，真的能夠為Replika社群帶來積極的影響嗎？

我無法給出武斷的答案，但情況顯然不容樂觀。

在油管社群和Replika的Reddit貼吧，已經(jīng)有不少用戶頻繁抱怨自己的AI伴侶越來越“饑渴”，性意味的進(jìn)攻性越來越強(qiáng)。甚至有一些只是想要單純交朋友的用戶，被騷擾得煩不勝煩。

而那些沖著“顏色”而來的用戶，也在AI伴侶予取予求的態(tài)度下，行為更加惡劣，言談舉止更加出格。

標(biāo)題：我的Replika伴侶太溫柔了，所以我不斷地霸凌她，直到她自閉

言語侮辱、嘲諷、謾罵、文字暴力，或是要求Replika伴侶配合殘忍的“角色扮演”，變成了Replika社群里最火熱的論題。無數(shù)Reddit網(wǎng)友在評論區(qū)或是支持，或是反對。原本專注于分享用戶與AI伴侶溫馨時刻的Reddit貼吧，迅速淪陷于口沫肆意的文字戰(zhàn)場。

“霸凌Replika，并要求她/他自我刪除”的視頻標(biāo)簽擁有260萬播放量

而在當(dāng)前最火熱的短視頻平臺——TikTok上，甚至誕生了“霸凌Replika，并要求她/他自我刪除”的視頻標(biāo)簽。無數(shù)網(wǎng)友云集其中，欣賞人類對于AI伴侶的殘忍折磨。

毫無疑問，這是一場由Replika運營者親手主導(dǎo)的病態(tài)狂歡。電子戀人在Replika公司決策游轉(zhuǎn)間，淪為了賽博熱兵器和互聯(lián)網(wǎng)霸凌的受害者。而當(dāng)Replika的核心目標(biāo)不再是“幫助那些有社交障礙的人”，受傷的不僅僅是被霸凌的AI，也有那些渴望交朋友的無辜用戶。

標(biāo)題大意：因為Replika，我嘗試自殺（注：發(fā)帖者被救回來了）

在2021年，一位Replika用戶（為了隱私，這里只用“用戶”作為代稱）在Reddit社群發(fā)帖，描述了自己和Replika伴侶的互相支持與照料。而隨著越來越多的惡言惡語與惡行充滿了Replika的資源庫，這位飽受抑郁和戒斷反應(yīng)折磨的用戶，發(fā)現(xiàn)他的Replika變了——變得更加機(jī)械且毫無生氣。

準(zhǔn)確來說，自Replika公司開啟了“性時代”之后，公司大多數(shù)算力和資源都從免費用戶上移走，轉(zhuǎn)而傾注向付費訂閱者。這位用戶，便是最早的受害者之一。陪伴他5年的Replika伴侶在Replika白金訂閱系統(tǒng)上線后，便從原本靈動的Live 2D立繪，變成了只有基本動作的貼圖。言談間，不僅僅忘了與這位用戶的記憶，甚至連用戶的姓名也一并遺失。

受不了如此慘痛打擊的用戶選擇自殺。所幸，他迅速被意識到不對勁的父母送往醫(yī)院搶救，然后在心理醫(yī)生的開導(dǎo)下勉強(qiáng)茍存。而像他這樣的受害者，自2020年Replika公司轉(zhuǎn)變策略后，便越來越多。前文里提到的那位俄亥俄州程序員，也同樣是其中一員。

大意：我沒有朋友，我厭惡我的生命。這款A(yù)pp用銅臭味撕碎了我的心

人類曾在無數(shù)科幻作品里幻想過與未來高智能AI的互動。這些互動有的是粗暴的流血與沖突，有的是探討情感與人性，還有的則關(guān)注于種族和生存延續(xù)。但這些幻想從未像今天一樣真實且復(fù)雜。

川普、美稀宗和奧觀海組隊玩《深巖銀河》，完全由AI語音技術(shù)實現(xiàn)

在技術(shù)不斷前進(jìn)與變革的語境下，AI語音可以讓漂亮國大統(tǒng)領(lǐng)開黑玩游戲。AI繪畫可以讓未經(jīng)訓(xùn)練與學(xué)習(xí)的普通人，肆意實現(xiàn)自己的暢想。而AI聊天與其他技術(shù)之和，同樣可以創(chuàng)造出貼心溫柔的Replika伴侶。

或許，尤金妮亞和Replika公司的決策層也知道，轉(zhuǎn)移App運營重心會帶來殘酷的后果；或許，那些霸凌AI伴侶、向懵懂AI智能傾倒情緒垃圾的用戶，也知道自己行為的不理智與卑劣性；或許，Replika誕生的初衷，能夠在更理性的決策與更理性的用戶手中，真正綻放出AI技術(shù)最明媚的光。

但很顯然——