歡呼“賽博女菩薩”誕生的人，準(zhǔn)備好上供了嗎？

近幾天，互聯(lián)網(wǎng)上四處流傳著一條關(guān)于“女仆之夜：金雞湖游艇Party”的神秘信息。

這種活動原本并沒有什么值得注意的地方，無非是提供給都市男女們的一次昂貴的夜生活機會，唯一具備吸引力的，可能就只有“配備隨身女仆一名”幾個大字了。但有趣的是，活動主辦方提供給顧客挑選的女仆照片，在具備相當(dāng)高水準(zhǔn)的同時，又有著許多的古怪。

乍一看下，這些照片都沒什么問題。只不過，活動的主辦方在做圖技術(shù)上顯然缺乏火候，那些手掌明顯畸形了的美女，怎么看都不像個正常人。

實際上，她們也的確不是正常人，甚至都不是人——每一張照片，都是AI在經(jīng)過訓(xùn)練之后生成的。對近幾個月來AI繪圖風(fēng)潮有所了解的讀者老爺們，應(yīng)當(dāng)能從這些與克蘇魯“澀圖”如出一轍的畸形手掌上，嗅到不少熟悉的氣息。

用AI生成的照片來騙顧客上船，這種無本萬利的手法，成了國內(nèi)網(wǎng)友們見證下的第一起“使用AI詐騙”的案例。

雖然活動主辦方也迅速被警方約談，事情告一段落，但串聯(lián)起近幾年的AI發(fā)展歷史，以及在這個過程前后出現(xiàn)的一些事件，我們仿佛能在這兩類事件中看到一種清晰的邏輯關(guān)系，當(dāng)他們彼此勾連的時候，AI繪畫這個事物的一體兩面，總給人一些頗為深遠的意味。

去年下半年，AI繪畫在全世界的互聯(lián)網(wǎng)上投下了一顆“原子彈”，炸碎的是人類對AI只在涉及邏輯的領(lǐng)域笑傲江湖的固有認知。

當(dāng)我看到毫無繪畫基礎(chǔ)的中等偏下老師，在電腦上鼓搗五分鐘就出了套“王道白毛蘿莉圖”，還沒他安裝NovelAI來得費勁的時候，我就知道這很可能是我生平僅見的一次“技術(shù)爆炸”。

中等偏下老師的作品

果不其然，短短幾個月，AI繪畫的發(fā)展屢屢突破人們的想象。

在我還以為AI不懂“澀澀”，只會在一連串的指令代碼下生成一些仿佛從克蘇魯片場來的怪物，針對的是對人類來說為時過早的XP時，飛速進步的它們已經(jīng)能夠產(chǎn)出一些質(zhì)量極高的“澀圖”。而操控它們的國內(nèi)“魔法師們”為此制定的一部?？闯Ｐ碌摹对胤ǖ洹罚踔烈齺聿簧賴H友人的頂禮膜拜。

那時關(guān)于“畫師從此失業(yè)”的討論一度甚囂塵上，人類依靠AI生成便能實現(xiàn)“澀圖自由”的美好明天，似乎即將到來。

然而，在一眾“賽博列文虎克”的挖掘下，AI繪畫暴露出的諸多弱點——薩菲羅斯不會游泳只會站在海面上，樋口円香不會吃面，美少女們不會吃蛋糕等等——讓這場繪畫界的“智械危機”變得有些微妙，似乎AI便技止于此了。

而在各種各樣的“AI繪圖笑話”與層出不窮的二次元“澀圖”相映成趣的幾個月后，AI繪畫卻在悄無聲息間完成了真人領(lǐng)域的突破，靠著橫空出世的AI Coser，將次元壁撞成了一地玻璃渣。

雖然如果你仔細分辨的話，不少AI生成的真人照片仍然有著一定的破綻，仍然是AI繪畫的那些老毛病，比如一些細節(jié)上的衣物效果，以及永遠繞不過去的“手”的問題等。

但……不可否認的是，那些有著強烈視覺沖擊力的部分，仍然能夠吸引你大量的注意力，讓你無從判斷其可疑之處。

正經(jīng)人誰看手臂啊？

在幾個月前AI繪畫流行期間，不少人大肆鼓吹其將草稿豐富為成品圖的功能，也有相當(dāng)多“真人照片二次元化”的有趣應(yīng)用，還鬧出過“AI認為世上沒有黑人”這種沒品笑話。而在當(dāng)下完成了維度躍升的AI繪畫，則進一步展現(xiàn)出了它強大的創(chuàng)作能力，從草稿到成圖，從二次元美少女到現(xiàn)實世界的AI Coser，AI在繪畫領(lǐng)域已經(jīng)越來越“無所不能”。

更讓人吃驚的是，“真人化”并不是當(dāng)下AI的終點。讓“不存在的真人”動起來已經(jīng)不是什么天方夜譚的事情，即便目前只能看到以GIF形式呈現(xiàn)的作品，但這毫無疑問已經(jīng)邁出了“AI真人影片”的第一步。

幾個月前就已經(jīng)有過的感慨，在看到那一個個栩栩如生的AI Coser之后，又要再發(fā)出一次——大人，時代真的變了。

如果說“澀澀”是互聯(lián)網(wǎng)的第一生產(chǎn)力，那么當(dāng)下的AI繪圖，帶來的無疑便是賽博時代的生產(chǎn)力大爆炸，無法滿足于無窮無盡且可高度自定義的二次元“澀圖”的“LSP”們，想必能在諸多AI Coser身上，看到“澀澀自由”的曙光。

許多人鐘愛的“勒肉”效果，已經(jīng)有穩(wěn)定產(chǎn)出的可能

在各大社交媒體上，我們常常將那些大方展示自己“Nice Body”的無私博主，尊稱“女菩薩”。而以AI繪畫當(dāng)下的境界，它完全足以稱之為“賽博女菩薩”，從二次元到三次元，高度定制，沒有創(chuàng)作邊界。在滿足稀奇古怪XP的道路上狂飆，大慈大悲，普度眾生，每一位“LSP”都能從中獲得救贖。

已經(jīng)有“賽博女菩薩”開始上崗了

只是，讓我們回到一開始的“女仆之夜：金雞湖游艇Party”上，一個疑問油然而生——“賽博女菩薩”的誕生值得歡呼，但如果這位“女菩薩”想騙你上供，那該怎么辦？進一步，如果這位“女菩薩”想要傷害你，又該怎么辦？

當(dāng)下的AI繪圖作品，因為創(chuàng)作者的全民化，所以絕大多數(shù)仍處于公共分享的領(lǐng)域。但以其發(fā)展之迅猛，能力之全面，成品之出色，它不可阻擋地會出現(xiàn)在消費領(lǐng)域，成為商品供需鏈的一環(huán)。

正常來說，按照消費的邏輯，既然Onlyfans上的“女菩薩”能夠通過上傳照片與視頻來讓用戶付費，那么同樣的模式也能夠平移到AI作品及其客戶身上，關(guān)鍵只在于付費者自身的意愿，所謂“千金難買我樂意”，只要他們愿意，這似乎就是個公平的交易。

著名同人作品販賣網(wǎng)站DLsite上，AI生成作品已經(jīng)是個相當(dāng)普遍的標(biāo)簽，明碼標(biāo)價

但問題在于，不是每個消費者都有能力在充分鑒別了商品之后，根據(jù)自己的消費預(yù)期去消費的。抱著吃“現(xiàn)做飯菜”的預(yù)期，也付出了給“現(xiàn)做飯菜”的金額的人，自然不會想要吃到料理包。如果真吃到料理包了，對他們來說，自然會產(chǎn)生一種樸素的“上當(dāng)了”的心理。

前兩天《白夜極光》與“卜爾Q”用AI繪圖當(dāng)商稿所引起的爭議，便起于此。

官方都放出了修改后的版本，結(jié)果“卜爾Q”自己放了個未修版“自爆”

《白夜極光》本是一個拿“150位繪師匠心打造”當(dāng)賣點的游戲，但一張備受關(guān)注的情人節(jié)賀圖，卻出現(xiàn)了明顯的AI繪圖痕跡，而且還是畫師本人帶頭使用了AI繪圖，這對奔著畫師本人的“創(chuàng)作”來的玩家，無疑是一種欺騙。

創(chuàng)作的過程本身就是不透明的，畫師必須通過出眾的個人風(fēng)格與高質(zhì)量的作品，才能夠跨過這層不透明，與粉絲間建立起信賴關(guān)系。而“卜爾Q”的做法，便很輕松地扯斷了自AI繪圖出現(xiàn)后，粉絲與畫師之間那日益脆弱的信任鏈條，把其他未有明顯證據(jù)支撐他們使用了AI繪圖的畫師，卷入了一場“獵巫行動”。

許多畫師都在這一期間被迫“自證清白”

而AI帶來的，還遠不止繪畫領(lǐng)域的信任鏈條斷裂。隨著技術(shù)的發(fā)展，AI繪圖的越發(fā)逼真，一切互聯(lián)網(wǎng)上產(chǎn)生的圖片，都會面臨真實性上的質(zhì)疑——尤其是在AI已經(jīng)能夠模擬真人照片的效果之后。

最近土耳其和敘利亞大地震，波及范圍較廣，災(zāi)情也很嚴(yán)峻，因此全世界范圍內(nèi)都有很多關(guān)于這次地震的募捐。然而在這些募捐項目中，卻開始出現(xiàn)“AI繪圖詐騙”的案例，一些人通過AI生成的消防員與受災(zāi)兒童在倒塌大樓前擁抱的“照片”，在推特上大肆煽動人們的同情情緒。這張“照片”在推特上一度廣泛流傳，不少對AI繪圖缺乏認知的網(wǎng)友們，還十分諷刺地附上了“見證希臘與土耳其之間的友誼”“一張照片勝過千言萬語”之類的推文。

離譜的是，這個騙局根本沒有多少說服力，照片上的消防員的六根手指很快就被發(fā)現(xiàn)，而他們所給出的虛擬貨幣賬戶，經(jīng)過國外媒體的調(diào)查，也被證實了從2018年開始就出現(xiàn)在一些詐騙與垃圾推文中，甚至出現(xiàn)在一些社交媒體的色情內(nèi)容里。

BBC中文網(wǎng)《土耳其敘利亞地震：賑災(zāi)募捐里的AI與TikTok騙局》節(jié)選

客觀地說，這些案例所展現(xiàn)的，其實不是AI的風(fēng)險，而是人類自身的陰暗面，AI在這當(dāng)中只是作為工具，平等地給所有人提供服務(wù)。

沒有AI，游艇派對的籌辦者仍然可以找到一些網(wǎng)上到處都是的素人照片來蒙混過關(guān)；沒有AI，這次土耳其敘利亞地震的募捐騙子，仍然能夠扒出一些以往的災(zāi)難現(xiàn)場照片來騙取捐款。

我們不能夠簡單地評判一個工具的好壞，因為工具是中性的，如刀能傷人亦能做飯，水能載舟亦能覆舟。但我們也需要正視新工具帶來的風(fēng)險，尤其是像AI這種低成本、高效率、高回報，本質(zhì)上是解放互聯(lián)網(wǎng)生產(chǎn)力的劃時代工具。

由于AI繪圖的“原創(chuàng)性”，隨著它產(chǎn)出的作品真實性越來越高，真實信息與騙局的界限也將越來越模糊，“龐氏騙局”會越來越像“天上掉餡餅”，交友APP上俊男美女的比例也將顯著提升。

而AI能做到的，還遠遠不止這些。讓很多事情變得更便捷只是一方面，另一方面，它“無中生有”的能力，也將讓很多未曾預(yù)料到的傷害到來。

上周，“參考消息網(wǎng)”因ChatGPT的爆火而采訪了“ChatGPT之父”薩姆·奧爾特曼，在關(guān)于“GPT帶來的最讓人害怕的事情”這一問題上，薩姆·奧爾特曼的著眼點不僅僅在于ChatGPT這個聊天智能，他說：

“至于嚇人的事？我當(dāng)然一直非常關(guān)注利用開源圖像生成器生成復(fù)仇式色情的行為。我認為這將造成巨大的、可以預(yù)見的危害?！?

“參考消息網(wǎng)”2月15日報道《他是暴火的ChatGPT之父，他如何看待ChatGPT？》節(jié)選

這是關(guān)于AI早已有之卻又一直掩蓋在狂熱的、關(guān)于技術(shù)進步的討論下的問題。

在AI繪圖尚未顯現(xiàn)其影響力之前，AI換臉曾在各大社交網(wǎng)絡(luò)掀起過一陣風(fēng)潮，全網(wǎng)紅極一時的“肌肉金輪”，便是AI換臉的產(chǎn)物。這一技術(shù)帶來的神奇效果與在鬼畜領(lǐng)域的出色發(fā)揮，為當(dāng)時的人們所津津樂道。

而與“肌肉金輪”成鮮明對比的，則是在著名的P開頭黃黑網(wǎng)站上，被專門開辟出來的“換臉”分區(qū)，以及斯嘉麗·約翰遜等著名演員對AI換臉的控訴。

在今天，你以相關(guān)關(guān)鍵詞搜索，仍然能夠看到換臉后的成人視頻

除了AI換臉外，幾年前Telegram還出現(xiàn)過一個名為“DeepNude”的AI程序，你只要給他發(fā)送一張照片，他就能自動幫你“脫掉衣服”，生成對應(yīng)的裸照，還支持一鍵轉(zhuǎn)載與分享。據(jù)相關(guān)研究機構(gòu)“Sensity”統(tǒng)計，僅截止至2020年7月，這一機器人就生成并分享了超過10萬張照片。

作為一個工具，AI在平等地給所有人提供服務(wù)，顯然也就在平等地威脅所有人。

它的萬能、易用與便捷，讓它已經(jīng)具備了一定的“創(chuàng)作者”的功能，但它作為工具，顯然不會具備大部分“創(chuàng)作者”所具備的“底線”。

盡管很多AI繪圖軟件限制了“澀澀”內(nèi)容的產(chǎn)出，尤其是“未成年色情”內(nèi)容的產(chǎn)出；盡管像“勘云工造”這類AI真人圖像生成方，鄭重聲明了對明星、公眾人物肖像模型訓(xùn)練的禁止。

但打開Pixiv最火熱的“NovelAI”標(biāo)簽，我們?nèi)匀荒茉谡故卷撁婵吹奖姸噙B“合法蘿莉”都談不上的“露骨幼女”。

生產(chǎn)力的發(fā)展，帶動的是整個社會的認知轉(zhuǎn)變。正如私有制是現(xiàn)代家庭的起源，正如iPhone4永久改變了人們對手機的認知，越發(fā)先進、強大的AI工具的出現(xiàn)，改變的絕不會僅僅是我們對“創(chuàng)作”這件事情的理解。

AI的混沌，是互聯(lián)網(wǎng)本身的混沌，也是人類自身的混沌。它如同一個放大器，讓許多原本難以實現(xiàn)的想法有了實現(xiàn)的可能，也讓很多正常人都難以接受的事物，更加容易地出現(xiàn)——最簡單的例子，便是人見人愛的“賽博女菩薩”。

它是好的，很多機械式的勞作，乃至創(chuàng)造性的工作，都能夠在它的幫助下提升效率——比如，最近銀河老師就高度肯定了ChatGPT在毫無感情的微博推廣寫作上的能力。

但同時，它也是危險的。毫無節(jié)制、毫無底線的使用，顯然也觸及了人類的道德原則與經(jīng)濟利益。

它的出現(xiàn)如靈光乍現(xiàn)，發(fā)展如烈火烹油，以至于到現(xiàn)在為止，我們都沒能夠建立起成熟的約束機制，來防止其被肆無忌憚地濫用。有的，只有各大公共社交媒體迫于輿論壓力的打壓，比如AI換臉視頻大肆傳播期間，F(xiàn)acebook等社交軟件對其的封殺。

對于如何供奉“賽博女菩薩”，我想我們還需要經(jīng)過很長一段時間的討論。