劉興亮 | 如何走出AI幻覺

01

人工智能洶涌澎湃，使用者如過江之鯽撲通撲通跳進(jìn)這條大河暢游，感受新型科技潮流。問題來了，AI是個「包打聽」，無所不能有求必應(yīng)，無論什么問題來者不拒，對與不對不說，你只要敢問它就敢回答。

AI的回答總是攜帶著強(qiáng)大的信息流，這些信息流構(gòu)成的語言單位相互之間有強(qiáng)烈的意義接續(xù)性，總能讓提問者在面對陌生問題時獲得足夠信服的回應(yīng)。這與我們面對一個「路人」時所感受到的「有限」迥然不同，就好比一個迷失在荒漠中的人頭頂升起一顆永不消失的啟明星，指引著生活的方向。

然而使用者很快就會發(fā)現(xiàn)AI在提供知識性問題時那種檢索信息和萃取方案的自信，經(jīng)常帶來荒謬的結(jié)果。

比如你問他一個名氣不太大的名人的信息，它的虛構(gòu)能力就會出現(xiàn)，經(jīng)常把與之無關(guān)的人安在他的家庭里，張冠李戴雞鴨同籠的現(xiàn)象層出不窮。最可笑的是，當(dāng)你指出這個回答是錯誤的時，AI會繼續(xù)搜羅另一個錯誤的答案提供給你。

它不在乎答案的對錯與真實(shí)性，但其檢索信息，解析變量，輸出答案的工作方式和工作熱情永不消退。

大語言模型沒有情緒，它做對了不會有什么成就感，做錯了更不可能表示尷尬，它就是一個接受提問，輸出信息的機(jī)器。

我們必須承認(rèn)，AI在許多時候能做出非常出色的反應(yīng)，提供有效的信息和幫助，它的顛覆性的工作方式和巨大潛力吸引了無數(shù)人。但同時，也經(jīng)常鬧出笑話，給出風(fēng)馬牛不相及的答案。這背后其實(shí)指向同一個熱點(diǎn)現(xiàn)象：AI 幻覺。

02

所謂AI 幻覺指的就是人工智能模型會一本正經(jīng)地胡說八道的情況，很多人在使用AI初期就發(fā)現(xiàn)了這一現(xiàn)象。也就是說，AI 給出的回答表面合理連貫，卻和事實(shí)不符，要么偏離了問題本身，要么包含了看似可信實(shí)則子虛烏有的信息。

在一個權(quán)威測試中，有的AI模型的幻覺率據(jù)稱高達(dá) 14.3%，現(xiàn)在公認(rèn)的AI平均錯誤率在13%左右，這意味著你問一百個問題，會得到十幾個基于計(jì)算基礎(chǔ)上的胡說八道。

大模型生成內(nèi)容的底層邏輯是基于概率，只負(fù)責(zé)形式上推理，不對信息的真實(shí)性負(fù)責(zé)。可以說，幻覺是大模型「誠實(shí)度」上的先天缺陷。

這就提出一個對使用者而言非常嚴(yán)肅的問題，對AI的回答的可信度與接受度無法確定。如果不能百分百準(zhǔn)確，尤其是涉及到醫(yī)療詢問和一些與專業(yè)和實(shí)踐工作相關(guān)的問題時，到底能不能利用AI作為輔助？這不禁讓我想起一位利用搜索引擎給自己治病繼而帶來滅頂之災(zāi)的舊新聞。

03

使用者如何能有效利用AI又能判斷真?zhèn)巫叱鯝I幻覺呢？我覺得首先得從認(rèn)知根源上搞清楚幾個最底層的邏輯。

第一，值得信賴的人工智能應(yīng)該明確引用來源。比如ChatGPT在搜索得出的答案中經(jīng)常備注信息來源。這時候?qū)ζ鋪碓吹臋z驗(yàn)既方便也必要。來自權(quán)威網(wǎng)站，標(biāo)注了作者等信息，往往相對有效。

但這還不足以支撐信息的正確與否。不要把AI當(dāng)老師，要把AI當(dāng)實(shí)習(xí)生，追問「證據(jù)在哪？」「數(shù)據(jù)來源？」「有無反例？」。重要問題，三連擊。

第二，為了進(jìn)一步強(qiáng)化信息的有效性，還需使用可靠來源的數(shù)據(jù)對人工智能生成的數(shù)據(jù)進(jìn)行交叉檢查。這就好比歷史考據(jù)和考古工作的「發(fā)現(xiàn)」和「解釋」是否有效一樣，不能由單一來源而必須是兩個以上的來源來支撐。

第三，使用者應(yīng)該努力搞清所使用的人工智能工具的基本工作原理。人工智能是一個建立在強(qiáng)大的檢索信息的基礎(chǔ)上，又對這些海量信息變量進(jìn)行有效的分析與組合，繼而在符號的相互關(guān)系中尋求最佳組合的一種計(jì)算工具。

它只會根據(jù)上下文預(yù)測下一個最有可能出現(xiàn)的詞。比如你問：「《紅樓夢》的作者是誰？」它會說「曹雪芹」。你問：「《紅樓夢》的續(xù)集是誰寫的？」它不知道，但會憑「紅樓夢+續(xù)集+清朝+作家」的概率組合，隨便冒出一個「周汝昌」或者「脂硯齋」之類的名字，好像真是那么回事。

也就是說，它追求的是「既有」的信息鏈接的概率，只是根據(jù)統(tǒng)計(jì)概率在「模仿人說話」的程序。正如哲學(xué)家休謨對「必然性」的否定，因果關(guān)系并不是必然的，就此而言，哪怕接近百分百的概率也不能在實(shí)踐中導(dǎo)致必然的正確結(jié)果。

就此而言，使用者只能根據(jù)既有經(jīng)驗(yàn)對AI輸出的信息做大致判斷，但無法做出結(jié)論。

第四，要注意發(fā)現(xiàn)人工智能系統(tǒng)中的潛在偏見。人工智能是對流通信息的大量單元之間的語言關(guān)系的梳理，由于綜羅的信息海量，這就難免帶來偏差。這時候，避免錯誤的方法是在要求系統(tǒng)為你輸出答案之前在您的提問中包含相關(guān)事實(shí)。

這就對使用者提出了較高的提問要求，最好避免在一無所知的領(lǐng)域去尋求人工智能的幫助。很可能你輸入的信息就存在偏差和錯誤，得出的結(jié)論自然十分危險。

04

信AI之前，先信自己的腦子，人類的腦子，依然是最好的「防幻裝置」。

AI幻覺不是一場「科技災(zāi)難」，而是一面「人類鏡子」。它反映了我們多么容易被「自信的胡說八道」打動啊。

最后我請你記住三句話：

AI會瞎說，但從不臉紅；

胡說不是故障，是它的本性；

人類的腦子，依然是最好的「防幻裝置」。

如果你能記住這三句話，那恭喜你，你就已經(jīng)成功地從「AI幻覺」里走出來了。

AI固然厲害，它只是手段，人才是目的。未來的世界，AI負(fù)責(zé)天馬行空，我們負(fù)責(zé)去偽存真！

AI會帶來更多可能性，從藝術(shù)和創(chuàng)新角度而言，這是人類之福，只不過對「更多可能性」的利用，需要人的理性判斷和實(shí)踐檢驗(yàn)。

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。