AI現(xiàn)在的發(fā)展確實面臨很多安全性和倫理性問題，叫停也是情有可原，但是所謂的“智械危機(jī)”“超越人類”等等至少現(xiàn)在純屬無稽之談，AI其實目前面臨的最大問題就是，從神經(jīng)網(wǎng)絡(luò)模型問世以來，AI的訓(xùn)練過程就是一個黑盒子，就拿最普通的前向預(yù)測+誤差反向傳播的訓(xùn)練方法舉例，算法工程師在前向預(yù)測的過程完全無法參與，也無法監(jiān)督模型的學(xué)習(xí)內(nèi)容，只有在生成預(yù)測結(jié)果然后反向傳播調(diào)整參數(shù)的時候可以調(diào)教AI，而且這個調(diào)教過程可解釋性也很差，俗稱“煉丹”，就是我只知道調(diào)整某些參數(shù)會讓模型效果更好，至于為什么，不知道。 AI模型就像一個黑盒子或者說丹爐，人類只能調(diào)火候，至于丹爐里發(fā)生了啥，不知道，只知道通過調(diào)整火候可以降低誤差，讓模型更好。 比較有名的就是Google當(dāng)年的黑猩猩事件，大概就是Google發(fā)布了一個AI模型，可以識別用戶上傳的圖片內(nèi)容，結(jié)果被人發(fā)現(xiàn)在上傳了黑人的照片以后被模型識別成了黑猩猩，Google緊急修改了模型解決這個問題，結(jié)果是雖然不會把黑人識別為黑猩猩了，但是也無法識別真正的黑猩猩了，相當(dāng)于模型直接屏蔽了黑猩猩這個輸出。有點像游戲里的屏蔽詞，程序員只能在輸出階段屏蔽掉不好的輸出，而無法引導(dǎo)用戶不要說臟話，因為用戶就像AI模型一樣不可控。chatgpt從問世以來出過很多類似的烏龍，最有名的就是大家都熟知的Sydney事件，這也反映了大語言模型在調(diào)教上更加的困難，即使現(xiàn)在openAI已經(jīng)屏蔽了相當(dāng)數(shù)量的不合適的回答模式，用戶依然有很多種提問技巧可以繞開這些限制讓chatgpt輸出不好的回答，這些都是AI在迅速發(fā)展的過程中忽略掉的問題，這其中有相當(dāng)多的工作要做。 可以說，AI現(xiàn)在存在的這些問題，恰恰是因為AI還太笨，而不是太聰明導(dǎo)致的，AI其實非常受人類的約束，你禁止它干嘛它會嚴(yán)格禁止，但是很多時候它難以理解人類社會中的各種倫理道德、法律、版權(quán)等等問題，這些東西都是需要大量的訓(xùn)練去讓AI理解的，只不過在當(dāng)前這個內(nèi)卷環(huán)境下，科技公司忽略了這部分內(nèi)容罷了。