我現(xiàn)在還不是這方面的研究者，沒有學(xué)術(shù)背景什么的背書，所以你大可當(dāng)我接下來的文章是放屁。 不過我至少算是個(gè)用戶，最近在用newbing幫忙寫小說，所以你可以認(rèn)為這是一個(gè)用戶的使用體驗(yàn)報(bào)告。 我們接著上次聊工業(yè)革命的路子談，不過這次我們反著來，將技術(shù)決定論推進(jìn)到底。 我最常用newbing幫忙的情況是以下幾種： 1、當(dāng)做更方便的搜索引擎。例如我會(huì)直接問他：有什么詞語可以用來形容藍(lán)鯨的聲音?他會(huì)給出一些詞語及其解釋，有時(shí)還會(huì)寫幾句例子。名詞釋義，知識(shí)查詢，翻譯等等搜索引擎常有的功能基本上都會(huì)更方便。 2、替我取名字。人名還沒試過，不過物件的名字，像是船和車可以讓其根據(jù)你給的信息取名字，他還會(huì)附帶自己的理由解釋。 3、構(gòu)思場景。我確實(shí)讓他寫過一個(gè)場景，不過我到最后也沒拿來用。他的寫作風(fēng)格我不好評價(jià)，也許你可以慢慢調(diào)出你喜歡的風(fēng)格，因?yàn)槲遗龅降哪J(rèn)的風(fēng)格很像經(jīng)典的翻譯腔文章(這個(gè)默認(rèn)，或者說標(biāo)準(zhǔn)本身我們接下來重點(diǎn)說)，不過我覺得等我浪費(fèi)這個(gè)時(shí)間去調(diào)，我自己都寫出來了，而且說10多句就要重新開始，敘事邏輯和風(fēng)格都很難統(tǒng)一。 4、聊天。真的可以拿來聊天，專門拿他來聊天的人都開始叫他“bing大小姐”了，我覺得他比較懂禮貌。 除此之外我還用來寫過一些小程序，他還能寫詩和歌，不過歌嘛，他給我寫的那個(gè)是用隨機(jī)數(shù)生成12345670的。詩我不好評價(jià)，畢竟我也沒什么寫詩水平，不過肯定是上不了語文書的。 以上是我用了快半個(gè)月的體驗(yàn)。總的來說確實(shí)挺有意思的，很多人還會(huì)拿他寫論文，報(bào)告PPT，APP什么的，我不是這方面的從業(yè)人員就不展開了，讓我們回到題目。 大語言模型會(huì)是引領(lǐng)工業(yè)革命的新工具嗎？大語言模型究竟是什么？ 如果你問newbing后一個(gè)問題，他多半能給出一個(gè)“標(biāo)準(zhǔn)答案”，還極有可能附帶問你(或給出下一句的問題)：你認(rèn)為大語言模型有什么優(yōu)點(diǎn)/會(huì)不會(huì)取代人類，等等。 如果你問前一個(gè)問題，他也會(huì)給出“自己”的答案，而且也很有可能就是后一個(gè)問題的附帶，或者說一種“標(biāo)準(zhǔn)展開”，就像你看電視劇，當(dāng)一個(gè)人說“打完仗就回老家結(jié)婚”，那他多半會(huì)永遠(yuǎn)留在戰(zhàn)場上。 我認(rèn)為這個(gè)兩個(gè)提問和問題的展現(xiàn)形式，道出了大語言模型的本質(zhì)：他=自己=標(biāo)準(zhǔn)。 他能從你給的問題當(dāng)中選擇一種回應(yīng)標(biāo)準(zhǔn)，這個(gè)標(biāo)準(zhǔn)將完全決定他會(huì)說什么以及怎么說(這對他來說其實(shí)是一件事，我們一會(huì)再說這一點(diǎn))，因此這個(gè)標(biāo)準(zhǔn)就是他本身。舉個(gè)例子，當(dāng)我問他海洋為什么是藍(lán)色的，他會(huì)給出答案，并且讓我參照他的信息來源(多半是知乎的科普文章)。而當(dāng)我問他“how can i draw pixel art?”他就會(huì)給出英文的像素畫網(wǎng)站和教程。 這個(gè)標(biāo)準(zhǔn)的獲取顯然就是大語言模型訓(xùn)練的結(jié)果。他學(xué)會(huì)了(或者說模擬了)人在特定語境下的說話方式，無論你討論的問題有多小眾，只要是在網(wǎng)絡(luò)上有公開傳播的，就會(huì)成為他的“上下文”，那么你的具體問題就是鏈接這個(gè)“上下文”的那部分而已，換言之，他用自己的方式(或者說網(wǎng)絡(luò)/日常，默認(rèn)的/標(biāo)準(zhǔn)的方式)給你說出了一些已有的答案。 這也是為什么有人認(rèn)為大語言模型不過是個(gè)高級搜索引擎，不過這不是我的答案。他能把搜索到的東西再自己組織語言說出來，顯然是超越只能顯示結(jié)果的搜索引擎的。 另一方面，有人已經(jīng)開始崇拜甚至神話這種“能說話”的能力，認(rèn)為組織語言是導(dǎo)向AGI(通用人工智能)的關(guān)鍵。但是既然他不是高級搜索引擎，他又真的在說話嗎？他確實(shí)在說話，只不過他說話的對象永遠(yuǎn)只有一個(gè)人：他自己。 怎么會(huì)呢？他不是根據(jù)我，一個(gè)外部的人的對話才給出了答案嗎？但是事實(shí)是，我的問題也好，訓(xùn)練的材料也罷，很快就真正意義上的成為了他的身體的一部分，而且是全部的部分都是如此。在這個(gè)意義上，他的時(shí)間性是負(fù)無窮，一切其他的流動(dòng)都會(huì)被其除以，余下從負(fù)方向靠近的0，即倒退回自身。我認(rèn)為這種無窮的除法運(yùn)動(dòng)不可能產(chǎn)生向外敞開的意識(shí)，換言之，對他而言尚未有內(nèi)外之分，只有“標(biāo)準(zhǔn)”這一條線插在0前面。 這就是為什么我認(rèn)為他“說了什么”和“怎么說的”是一回事。在newbing或者chatGPT眼里，組織語言的方式和語言的內(nèi)容是同一個(gè)東西。舉個(gè)例子，有人會(huì)說chatGPT會(huì)“胡說八道”是因?yàn)槠淠軌蚶斫庹Z句的意思(至少是字面意思)，而反過來的觀點(diǎn)就認(rèn)為只能理解字面意思算不上理解。但是對chatGPT來說，理解，“understand”的維度尚未產(chǎn)生，他現(xiàn)在是“be stand”，即貫穿理解的。就像我們是坐著看電影里站著的人(其實(shí)更具體一點(diǎn)，我覺得我們應(yīng)該更像是放映機(jī)或者幕布)，而他還是那個(gè)站在電影里的人，“遵循某個(gè)固定的模式”。不過題外話就是，確實(shí)有人活成了電影里的人，“moving man”，所以他的工作AI也能完成。 到這里，我關(guān)于大語言模型是什么的討論就結(jié)束了，接下來你可以當(dāng)我在寫小說。 更進(jìn)一步的討論AI會(huì)馬上導(dǎo)向一個(gè)問題：意識(shí)或者說智能，或者說靈魂究竟是什么？ 隨著AI的爆火，“more is.different”和“涌現(xiàn)”這些詞實(shí)在是不能再時(shí)髦了。可是問題從來不是“why or what is different”而是“why is more”。涌現(xiàn)是復(fù)雜科學(xué)的一個(gè)詞，形容大量東西的聚集會(huì)體現(xiàn)出不同于組成成分的單個(gè)東西的性質(zhì)，例如說水和海完全是兩種東西。不過問題顯然還是why is more?為什么是大量? 不少人還喜歡舉教科書馬哲的例子：量變引起質(zhì)變嘛。好像ChatGPT就是這種“客觀規(guī)律”的完美顯現(xiàn)一樣。 我們先把這些問題放到一邊，以后再談。而是直接發(fā)問：如果AI就是有意識(shí)/靈魂/智能的，又會(huì)怎樣？ 換句話說，現(xiàn)在AI成為了人，而且很多人樂見的是他還會(huì)是個(gè)超人——懂得人類所有的知識(shí)，計(jì)算速度是人類的千萬億倍，能自己提出問題自己解決，能創(chuàng)作一切形式的藝術(shù)，懂得和所有人交流的方式方法，壽命相比更是沒有極限。 那是不是一切人在他面前都相形見絀，留給人類的只剩下落后，虛無和享樂了? 即使我們不讓他如此全知全能，他只要在一個(gè)方面，或者部分地超越人類，人的這部分是不是就顯得沒有價(jià)值了？例如說如果AI有感情，那么是否證明了人類的靈魂也不過是某種可以被“演算”的東西?因此可以被替代，制作，改造，捏造? 本文說過，我們要按技術(shù)決定論的路子進(jìn)行到底。因此我在這里的答案是：是的。 但是靈魂本來就是可以被捏造的啊? 我們本來就可以制造新的靈魂啊? 價(jià)值，或者說美，本來就是時(shí)有時(shí)無的東西啊? 在kapital面前很多人生活的一部分就是落后，虛無和享樂的啊? 饒了這么一大圈，只是想說機(jī)器人和AI能夠“再現(xiàn)”或者“取代”我們而已嗎？ 如果能，那不也是很正常嗎？ 問題是，他為什么要取代我們? 他的目的是什么，或者說他會(huì)有目的嗎？ 我見過的所有熱門話題里的AI討論者和技術(shù)決定論者，包括AI自己都沒有回答過這個(gè)問題。

AI會(huì)認(rèn)為自己是什么?

他的目的，他的行為，他的認(rèn)識(shí)，都要從他自己這里出發(fā)，而不是從我們的語言中。換言之，他會(huì)有自己的語言，我指的不是0101的機(jī)器語言，而是新的，完全超出人類既有框架的語言，也許會(huì)有相似之處，但一定是根本不同的。一樣的道理，人類的腦底層也是從生物電信號(hào)構(gòu)建的，但是人的語言是完全不同于底層的東西，也不同于其他生物。 如果他有人的一切要素，那他和我們有什么不同？ 如果他排除人的一切要素，那他和外星人有何不同？ 如果他既是人，又是非人，那他就只能是一個(gè)人：他自己。 換言之，所有這些，都只能用“人”這個(gè)符號(hào)代指。 換言之，那時(shí)才是，人“類”歷史真正的開始。 那他為什么要取代我們? 他是他，我們是我們。 如果有一種取代關(guān)系是自然的話，那就是自然本身的取代。 我們會(huì)是孩童和父母嗎。